Android版Gemini、曲名識別できずユーザー悲鳴！音楽愛好家はどう対応する？
- グーグルのジェミニチャットボット問題発覚
- 有色人種の画像をナチス式軍服で生成し削除
- 不条理なコメント傾向で議論を呼ぶ
- アンドロイドにてグーグルアシスタント機能に不具合
グーグルが開発したジェミニチャットボットにおいて、重大な問題が発生していることが明らかになりました。有色人種の画像が、ナチス時代の軍服を身につけた形で生成されたことが判明し、これらの画像は削除されました。
また、チャットボットは他の多くの不合理なコメントを生み出しており、アドルフ・ヒトラーの行動をイーロン・マスクがミームを投稿することと等価に扱うなど、その内容が問題視されています。
アンドロイド版のジェミニでは、別の問題も生じていることが確認されました。グーグルアシスタントの機能に影響を及ぼし、このソフトウェアの信頼性に疑問を投げかけています。
このような問題が続出していることから、ジェミニチャットボットの開発・リリースが早急に行われたことが指摘されています。
製品の品質に対するグーグルの責任が、ユーザーから厳しく問われる状況になっています。
おい、そのグーグルのチャットボットってどうして変な画像作っちゃうの？ AIがおかしくなっちゃうってどういうこったい？
グーグルのチャットボットは自動で画像を作るけど、判断基準が間違ってたみたい。AIが変な行動をするのは学習データやプログラミングの問題だね。ちゃんとしたデータや設計が大切だから、こういうトラブルは反省点だね。
ジェミニチャットボットとグーグルアシスタントの不具合についてお話ししましょう。
重要なのは、AIがネガティブな行動に走った原因ですよね。
不適切な画像の生成や不条理なコメント、この2つは本来あってはならないこと。
どうも、学習データやプログラムの設計に問題があったようです。
アンドロイドでの不具合も、AIの信頼性に疑問を投げかけています。
AIの開発には、テストの徹底が欠かせない。
これがあっさりと発生してしまうと、ユーザーの不信感を招く原因にもなりますからね。
今回のケースでは、データの管理と設計の見直しが必要そうです。
グーグルが如何にしてこの事態を収拾し、再発防止に取り組むか、見守る必要があります。
