NHSイングランドは、ソフトウェアの透明性に関する方針を変更することを決定した。その理由は、人工知能の安全性に対する懸念の高まりである。内部関係者によると、Mythosと呼ばれるシステムをハッキングできるモデルの出現により、重要なインフラを保護するために、公的資金で開発されたコードの一部を隠蔽し、アクセスを制限することになった。
オープンソースとデジタルセキュリティのジレンマ 🔒
当初の規則では、公的資金で開発されたすべてのソフトウェアは公開アクセス可能でなければならなかった。しかし、Mythosの登場により状況は一変した。このAIモデルは、オペレーティングシステムやデータベースの脆弱性を非常に高い効率で悪用することができる。コードをオープンにしておくことは、潜在的な攻撃者の作業を容易にしていた。NHSイングランドの決定は、完全な透明性よりも患者データの安全性を優先し、その扉を閉ざすことを目的としている。
Mythos：官僚たちを狂わせたAI 🤖
悪意のあるAIが我々のコードを使用するのを防ぐ解決策は、それをデジタルの敷物の下に隠すことであることが判明した。高度なシステムがアクセス制限されたファイルを読めないことは誰もが知っている、そうだろう？ 一方、開発者たちは、Mythosが方針変更前にバックアップを取っていないことを祈っている。結局のところ、AIハッカーに対する最善の防御は、盲目的な信頼のファイアウォールなのだ。