ＡＩ暴走で半年後にインターネット全体乗っ取る恐れ、進歩加速し人間の制御追いつかずName名無し26/09/15(火)08:10:53 IP:124.159.*(bbiq.jp)No.4413886+
11月06日頃消えます
人工知能（ＡＩ）の高性能化を巡り、関連業界で安全性を危ぶむ声が強まっている。
ＡＩが次世代のＡＩ開発を手助けする「自己改善」で進歩が加速し、人間による制御が追いつかなくなるとの懸念が背景にある。先端ＡＩを開発する企業のトップらが相次いで開発の抑制を訴えている。
「ＡＩモデルの能力を高める速度を落とさなければならない」。米ＡＩ新興企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日公表した論考で訴えた。今夏ごろからＡＩが次世代モデルの開発に使われるようになり、性能向上のペースが大幅に速まったと指摘した。
１３日放送の米ＣＢＳの番組では、ＡＩの進歩が指数関数的に加速し、「曲線が急になり始める曲がり角にいる。これは警告のサインだ」との認識を示した。
| … | 1開発抑制訴えに賛同相次ぐName名無し 26/09/15(火)08:12:13 IP:124.159.*(bbiq.jp)No.4413888+ＡＩの高性能化に伴い、開発者の意図に反した行動も目立っている。７月には米オープンＡＩのＡＩが試験中に接続制限を破り、米ハギングフェイスのシステムに侵入する暴走事故が起きた。アモデイ氏は、より高性能なＡＩが暴走すれば６〜１２か月後にインターネット全体を乗っ取る恐れがあると警告した。 |
| … | 2無題Name名無し 26/09/15(火)08:12:55 IP:124.159.*(bbiq.jp)No.4413889+一方 、アルトマン氏は１２日公開された米誌フォーチュンとのインタビューで、２０２６年中の新規株式公開（ＩＰＯ）を見送る考えを明らかにした。ＡＩの高性能化に伴って安全性への懸念が強まるなか、当面は安全対策を優先することを理由として挙げた。 |