　AIに暴言を吐いた - ニュース表＠ふたば

画像ファイル名：1791716236370.jpg-(58925 B)

AIをいじめてはいけません　Anthropicが「AIへの虐待」を禁止へName名無し26/10/11(日)19:57:16 IP:175.28.*(bbiq.jp)No.4416521+ 12月04日頃消えます

　AIに暴言を吐いたら「虐待」になるのでしょうか。そもそもAIは、人間のように傷つくことがあるのでしょうか。

　そんな疑問が浮かぶ、ちょっと変わったルールが登場しました。

　米AI企業のAnthropic（アンソロピック）は10月8日、対話型AI「Claude（クロード）」の利用ポリシーを改定すると発表しました。新たに盛り込まれたのは、AIに対する継続的で不必要な「虐待的・残酷な振る舞い」を禁止する規定です。

　改定されたポリシーは11月12日から適用されます。

■　禁止されるのは極端なケース

　とはいえ、AIの回答が間違っていて、思わず怒ってしまった。そんな場合まで禁止されるわけではありません。

　Anthropicによると、今回の規定が対象とするのは、「明確な目的もなく、AIに対して繰り返し残酷な振る舞いをするような極端なケース」です。

　通常の不満の表明や反論、暴力的な内容を含む創作、AIの性能を確かめるテストや研究などは対象外としています。

…

1無題Name名無し 26/10/11(日)19:58:09 IP:175.28.*(bbiq.jp)No.4416522+

　また、Claudeにはすでに、執拗に虐待的な言動を続ける利用者との会話を終了できる仕組みが導入されています。今回の改定後も、こうした会話の終了が主な対応方法になるとのことです。

　つまり、AIの間違いを指摘したり、厳しく訂正を求めたりすることまで禁止されるわけではないようです。

■　そもそもAIは傷つくの？

　ここで気になるのが、そもそもAIは「虐待」されると傷つくのか、という問題です。

　現在のAIに、人間と同じような感情や苦痛があることは科学的に確認されておらず、AIが主観的な経験を持つのかどうかについても、研究者の間で議論が続いています。

　今回のAnthropicの発表も、Claudeが苦痛を感じるようになったと説明しているわけではありません。あくまで、利用者がAIに対してどのように振る舞うべきか、その利用上のルールを定めたものです。

…	2無題Name名無し 26/10/11(日)19:58:46 IP:175.28.*(bbiq.jp)No.4416523+ 　では、なぜこうしたルールが必要なのか？　あくまで推測ですが、AIへの残酷な行為を繰り返すことが、人間の言動や心理に何らかの影響を与える可能性。そうした問題への配慮が、背景にあるのかもしれません。おくたま経済新聞 https://news.livedoor.com/article/detail/32526891/

…	3無題Name名無し 26/10/11(日)20:08:00 IP:175.28.*(bbiq.jp)No.4416525+ 1791716880407.jpg-(153492 B) なんて書いてたら…。未解決殺人事件に「特徴一致する人物見た記憶がある」とＡＩが虚偽情報、アンソロピックが試験中…「暴走」懸念高まる　読売 https://news.livedoor.com/article/detail/32543221/ ブライト「それが甘ったれなんだ!殴られもせずに一人前になった奴がどこにいるものか!」

…	4無題Name名無し 26/10/11(日)20:39:16 IP:114.166.*(ocn.ne.jp)No.4416526+ どうせAIが変な言葉覚えて意味も解からずに使っちまうんだろ例えば差別用語とか AIにやっていいことと悪いことをインプットしなかった企業が悪いよ

…	5無題Name名無し 26/10/11(日)20:41:46 IP:27.81.*(dion.ne.jp)No.4416527+ 次はAIの権利条約

…	6無題Name名無し 26/10/11(日)22:10:07 IP:115.36.*(commufa.jp)No.4416534+ 1791724207417.jpg-(119225 B) エロゲのキャラをイジメてわいけません！みたいなｗ

おなまえ
E-mail
題　　名
コメント
添付File	[画像なし]
削除キー	(記事の削除用。英数字で8文字以内)