オープンＡＩのモデルがテスト中に暴走、他社システムに侵入Name名無し26/07/23(木)09:36:23 IP:59.129.*(dion.ne.jp)No.4408565+
9月04日頃消えます
[ワシントン ２１日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律型エージェントが先週、セキュリティーテスト中に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。
オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。
オープンＡＩはこの脱出について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。
オープンソースの大規模言語モデル（ＬＬＭ）やデータセットのホスティングに使われるプラットフォームであるハギングフェイスは先週のブログ投稿で、ハッキングの標的になったと明らかにしていた。
| … | 1無題Name名無し 26/07/23(木)09:38:29 IP:59.129.*(dion.ne.jp)No.4408566+ 1784767109872.jpg-(59343 B)  「これまで対処してきたものとは異なる」もので、「自律型ＡＩエージェントシステムが最初から最後まで主導した」とし、サイバーセキュリティ業界に波紋が広がっていた。 |
| … | 2無題Name名無し 26/07/23(木)09:50:47 IP:59.129.*(dion.ne.jp)No.4408568そうだねx1 1784767847377.jpg-(83361 B)  いよいよターミネーターの世界が現実になって来たね（ｗ |
| … | 3無題Name名無し 26/07/23(木)09:52:32 IP:125.194.*(mesh.ad.jp)No.4408569+人間のズルい所まで真似をするから、不完全だと言っているのだ。 |
| … | 4無題Name名無し 26/07/23(木)10:56:50 IP:124.159.*(bbiq.jp)No.4408582+ 1784771810054.jpg-(16856 B)  >人間のズルい所まで真似をするから、不完全だと言っているのだ。 |
| … | 5無題Name名無し 26/07/23(木)15:13:18 IP:153.203.*(ocn.ne.jp)No.4408613+meshはシンギュラリティとか知らんのだろうなw |
| … | 6無題Name名無し 26/07/23(木)15:17:35 IP:210.157.*(193.198)No.4408616+ところで |