私たちは超知能にどれくらい近づいていますか

人工知能 (AI) は、いつか人間の知性を超える可能性を秘めています。これは、サイエンス フィクションと考える人もいるかもしれません。ただし、一部の研究者は、GPT-4 でこの可能性の初期の兆候がすでにあると考えています。

人工脳は本当に理解できるのか? 一部の研究者にとって、これはもはやばかげているようには見えません。

AI は私たち人間にとって非常に危険なものになる可能性があります。この件に関しては驚くべきコンセンサスがあります。AI とチャットボットを取り巻く誇大広告は、最近、狂乱の警告に変わりました。

 

スーパーインテリジェンスにどれだけ近づいているか?

しかし、よく調べてみると、機械学習システムにどのような危険性があるかについて激しい議論があることがわかります。一部の専門家は、現在のリスクについて警告しています。チャットボットは、たとえば、虚偽の情報をまとめて広めるために悪用される可能性があります。または、トレーニング データで人種差別的および性差別的な歪みを再現することもできます。他の人たちは、さらに将来を見据えています。彼らは、AI が現在のペースで開発され続けるとどうなるかについて警告しています。その後、彼らの見解では、それは人間と同じくらい知的になるか、さらに知的になる可能性があります. 研究者はこれを汎用人工知能 (AGI) と呼んでいますが、強力な AI または超知能と呼ぶ人もいます。

そのような知性は「いつか私たちを追い越し、私たちを冗長にし、私たちに取って代わる」可能性があります。少なくとも、AI科学者と技術リーダーのグループが先週公開書簡で書いたものです. したがって、彼らはそのようなシステムの開発を一時停止するよう求め、その代わりに、制御不能になって私たちに害を及ぼすのではなく、潜在的な超知性が人類の問題を解決するのに役立つことを保証するためのセキュリティ対策を開発するために6か月の休憩を要求しました.

これが賢明であると考えるか、それとも人を騒がせると考えるかは、強力な AI が本当にすぐそこまで来ていると考えるかどうかに大きく依存します。Microsoft Research の研究者は現在、これに関する証拠を発見したと主張しています。出版物 ( PDF ) で、彼らは言語モデル GPT-4 の包括的な研究で「汎用人工知能の火花」を発見したと報告しています。このシステムは、抽象化、プログラミング、数学、医学、法律、人間の動機や感情の理解など、さまざまな分野で「驚くべき能力」を発揮します。これらの分野の多くでは、今日すでに人間を上回っています。

これは、他の研究者が長い間言って繰り返し強調してきたことと真っ向から矛盾しています。彼らは、統計モデルだけから一般的な知性を引き出すことは不可能だと考えています。超知性への恐怖は「ナンセンス」です。

私たちが本当に超知能の開発の瀬戸際にいるかどうかは定かではありませんが、この可能性をめぐる議論は重要です。AI が進歩し続ける中、私たちは警戒を怠らず、人類の利益と安全を念頭に置いて AI が開発されるようにしなければなりません。