「幻覚」を伴うチャットボット: アリババの新しい言語ソフトウェアと中国の AI 規制

中国のインターネット大手アリババは最近、人工知能 (AI) を使用して文書や電子メールを作成する新しい言語ソフトウェア「Tongyi Qianwen」の発売を発表しました。しかし、報告によると、ソフトウェアはすでに「幻覚的」な反応を示しています。つまり、自信を持って間違った答えを出しているということです。

アリババの新しい言語ソフトウェアと中国の AI 規制

これらのレポートは、中国政府が AI サービスの新しい規制を準備しているときに行われます。中国のサイバースペース管理局は、コンテンツが「社会主義の基本的価値」を反映しなければならず、経済的および社会的秩序を混乱させる可能性のある情報を広めてはならないという要件を含む、新しい規制の草案を公開しました。開発者は、性別や年齢に基づく差別を防ぐためにも注意を払う必要があります。

この規制は、AI 言語モデルの精度と信頼性に関する懸念に対処することを目的としています。AI 言語モデルはまだ開発の初期段階にあり、エラーが発生しやすい可能性があります。グーグルのチャットボット「吟遊詩人」は、ジェームズ・ウェッブ望遠鏡が初めて公開された際に間違った回答をしたとき、恥ずかしい間違いを犯しました。

アリババの新しいソフトウェアは、当初はビジネス ライフを対象としており、ドキュメントの作成や電子メールの作成などのタスクを合理化する可能性があります。ただし、新しい規制が実装されると、開発者はチャットボットが政府の要件に準拠していることを確認する必要があり、イノベーションとコンプライアンスの間のトレードオフに追加のハードルが生じる可能性があります.

規制草案に関するフィードバックの期限が近づくにつれ、Alibaba のような企業は、チャットボットの問題に対処し、新しい規制を確実に順守する必要があります。AI 技術の開発が加速する中、世界中の政府はイノベーションと規制のバランスを取り、「Tongyi Qianwen」のようなチャットボットが正確で準拠していることを保証する必要があります。

タグ: アリババ, チャットボット, AI, 中国, 規制, コンプライアンス,