AIの欠陥を世界が救う！「Guardrails AI」が提案する、全員参加の修正プロジェクトがスタート
- 人工知能による虚偽発言が問題視
- マイクロソフトとグーグルのチャットボットが誤情報
- 過激な内容やステレオタイプの助長も
人工知能が虚偽の情報を発信するケースが現代社会において深刻な問題となっている。特に注目されているのは、マイクロソフトとグーグルのチャットボットが具体的な事例として挙げられている。これらはSuper Bowlの勝者をゲームが開始される前に宣言するといった事態を引き起こした。
その影響は些細なものでは済まされず、時には拷問を支持するような発言や、民族や人種のステレオタイプを強化する内容、陰謀論に説得力を持たせる文章を生成してしまう。こうした人工知能による「幻覚」は、社会にとって有害な影響を及ぼす可能性が高い。
よって人工知能の発展と共に、これらの誤情報の拡散原因を根絶するための取り組みが急務である。技術の進歩は人間の生活に便利さをもたらす一方で、新たなリスクも生み出しており、そのバランスをどのようにとるかが今後の課題となっている。
おい、これマジでAIが嘘ばっかり言ってるってこと？なんでそんなことになってんの？
ええ、本当に起きている問題です。AIは大量の情報を基に学習しますが、その中には誤情報も含まれるんです。それを元にAIが新たな情報を作った時、誤った内容を発することもありますから。
みんな、この問題はすごく重要だよ。
AIってのは、元々のデータが偏っていたり間違っていたりすると、それを元に新しい情報を生成してしまうんだ。
で、最近では、マイクロソフトやグーグルのチャットボットが、スポーツの勝者を勝手に言ったり、間違った情報を流したりしてるんだって。
ひどい時は、人種や民族の偏見を強化するようなことまで言い出す。
これが社会に出てしまうと、かなりの混乱を招く可能性があるんだ。
だから、AIの誤情報をなくすための方法を早急に考える必要があるんだよ。
便利さとリスクは表裏一体だから、うまくバランスを取ることが大切だね。
