グーグルのAIを活用した検索機能「AIの概要」が、奇妙な回答を生成するとして話題になっています。
例えば、「落ち込んだらゴールデンゲートブリッジから飛び降りればいい」とか「ピザに無害な接着剤を入れるといい」といった、到底真面目には受け取れない回答が出たことが問題視されていました。
目次
グーグル、AI概要機能を改修
これを受け、グーグルはAIの概要機能を「10以上の技術的改善」で強化したとしています。
具体的には、意味不明な質問の検出機能の向上や、ユーザー生成コンテンツの利用制限などが行われたようです。
問題の回答、一部はRedditから生成されていた
実は、問題となった回答の一部は、ユーモアや風刺を含むRedditの投稿から生成されていたことも判明しています。
グーグルはAIの概要機能をローンチする前に、十分なテストを行ったとしていますが、利用者が拡大することで想定外の事態が起きたようです。
グーグル、AI概要機能と関連検索の改善を表明
今回の件を受けて、グーグルはAIの概要機能と、関連するニュースや健康の情報検索について、さらなる改善を進めていくとしています。
まとめ
今回の出来事からも、AIの精度向上と信頼性の確保が重要であることが分かります。
グーグルをはじめとする大手テクノロジー企業は、AI開発に力を入れていますが、倫理的な問題や想定外の事態への対応も急務と言えるでしょう。
AIが私たちの生活に根付いていく中で、人間による監視と適切なガイドライン作りがますます重要になってくると考えられます。
引用元：https://aibusiness.com/nlp/google-refines-ai-overviews-after-bizarre-responses-limits-content
リンク
コメント