AI規制急務！未来社会を守るガバナンスが今求められている
- AIガバナンスの必要性
- インムータが面する課題と取り組み
- AIから生じる誤情報のリスク
AI技術の進歩と共に、AIガバナンスは企業経営者や取締役会にとって重要な関心事になっています。
しかし、現状では確固たる規制や規則が存在せず、特に欧州連合 (EU) のAI法やアメリカのバイデン大統領によるエグゼクティブオーダーで示された一連のルールにもかかわらず、知識とベストプラクティスに大きなギャップがあります。
データガバナンスに長く注目してきたインムータ社は、このAIガバナンスへの取り組みを強化しています。
同社の顧客からは、大規模言語モデル(LLM)などのデータ使用に関するコントロールを強化する要求が増えており、データの安全性を守るこのプロセスはますます複雑化しています。
最近のインムータの報告では、AIを使用している組織の88%がデータセキュリティ戦略がAIの急速な進化に追いついていないと回答しています。
特に問題となるのが、LLMが完全に架空の情報を生成する傾向にあり、誤った情報が拡散するリスクが懸念されています。
インムータ社の研究担当副社長によると、LLMによるある研究トピックの要旨生成を頼んだところ、架空の引用が生成され、警鐘を鳴らす出来事でした。
不確かな情報源からのデータの扱いは更に困難であり、異なる情報源ごとに文脈が変わるためです。
インムータはデータのガバナンスポリシーに従いながら、構造化されていない情報源にも対応を試みていますが、これには業界全体の取り組みが求められます。
おい、これってさ、ロボットが勝手に嘘の情報ばらまくリスクって話してるの？それってマジで大丈夫なの？
それに、会社がデータのルールきちんと守ってんのかって、どうやって確かめんのよ？
ええ、AIが自動的に作った情報には、間違いが含まれることがあるの。だから、データガバナンス、つまりルールをしっかり決めて使うことが大事なのよ。会社がルールを守っているかは、内部でのチェックや、第三者の監査によって確かめることができるわね。
みんな、このニュースは本当に興味深いよね。AIガバナンスというのは、つまりAIを安全に、公正に使うためのルール作りのことだ。
今ではルールが完全に追いついてなくて、特に欧米で進行中なんだ。
インムータっていう会社は、これに真面目に取り組んでいるんだよ。彼らはデータの安全性を保つために頑張っているけど、すごく複雑な作業だってさ。
あとユータが言っていた通り、AIが間違った情報を作り出す危険性もあるんだ。これはもちろんビッグニュースだよ。
インムータが体験したように、間違った引用を作り出してしまうんだからね。
データガバナンスは、正しい情報を扱うためにも超重要だよ。アヤカが言っていたように、会社がルールを守ってるかどうかは、自分たちでチェックしたり、他人に見てもらったりして確かめるんだ。
アヤカ、ユータ、データを使うときの安全と信頼性を守るためには、みんなで頭を使いながら進めていかなきゃね。
