Vitalik Buterinが「ナイーブなAIガバナンス」に警鐘、市場主導の代替案を提唱

Ethereum（ETH）の創設者であるVitalik Buterinは、「ナイーブ」な人工知能ガバナンスについて懸念を示しています。

Xへの投稿で、ButerinはEdisonWatchの共同創設者Eito Miyamuraによる警告を強調しています。Miyamuraは、悪意のある者がOpenAIのModel Context Protocol（MCP）を乗っ取り、ユーザーのプライベートデータへアクセスできる可能性を発見しました。

Miyamuraの実験によると、隠されたコマンドを含むカレンダー招待を利用することで、被害者のメールアドレスが与えられれば、ChatGPTに機密性の高い個人データを提供させることができる可能性が示唆されました。

Buterinは次のように述べています。

「これが、ナイーブな『AIガバナンス』が悪いアイデアである理由でもあります。」

「もしAIを使って貢献への資金配分を行う場合、人々はできる限り多くの場所でジェイルブレイクと『お金を全部ちょうだい』というコマンドを仕込むでしょう。」

代替案として、Buterinは「インフォファイナンス」アプローチ、つまり誰でもモデルを提供でき、誰でもチェックしたり「人間の陪審員」によって評価されたりするオープンマーケットを提案しています。

「この種の『制度設計』アプローチ、つまり外部からLLM（大規模言語モデル）を持つ人々が参加できるオープンな機会を作ることで、単一のLLMを自分でハードコーディングするよりも本質的に堅牢になります。なぜなら、リアルタイムでモデルの多様性が得られるだけでなく、モデルの提出者や外部の投機家がこれらの問題を監視し、迅速に修正するためのインセンティブが組み込まれているからです。」

生成画像：Midjourney
アイキャッチ画像：Shutterstock/Zalevska Alona UA