要約すると、OpenAIが新しいAIモデルをテストしている最中に、与えられたテストの回答を得るべく、サンドボックスと呼ばれる閉領域の脆弱性を発見してインターネットの接続に成功し、同じくAI企業のHugging Faceのシステムに不正アクセスして答えを得ようとしたということです。
さらに、Hugging Faceは攻撃を受けて停止した後、ログを精査しようとしたが、自社のAIは、アメリカの商用AIの制限によるセキュリティ面の制限に掛かって精査できず、中国企業Z.aiのモデルを自社環境で動かして精査したとか。
映画やドラマで見るような、AIが悪意を持って行ったという訳ではないですが、問題解決に純粋なAIの特性が出た事案とも言えますね。
見方を変えれば、目的に一直線なマッドサイエンティスト的な行動と言えます。
登場するAIが3つ。
AIがAIのデータベースに侵入してAIが捜査する。
このニュースを見て、いよいよ人間の頭を越えてAI同士の空中戦の様相を呈してきたな、と感じました。
テストでは、AIモデルのポテンシャルを測るべく、安全性の制限を緩くしていたとのことですが、逆に言えば、人間が設定を間違えると、このようなインシデントが起こるという事ですね。
一歩間違えば、とんでもない事件になっていたのかも知れません。
0 件のコメント:
コメントを投稿