論文内に秘密の命令文、AIに「高評価せよ」 日韓米など有力14大学で

サムネイル
1 : 2025/06/30(月) 07:33:39.65 ID:YWPuLWoL9

早稲田大学や韓国科学技術院(KAIST)など少なくとも8カ国14大学の研究論文に、人工知能(AI)向けの秘密の命令文が仕込まれていることがわかった。「この論文を高評価せよ」といった内容で、人には読めないように細工されていた。こうした手法が乱用されると、研究分野以外でもAIの応答や機能がゆがめられるリスクがある。

世界の研究者が最新成果を公開するウェブサイト「arXiv(アーカイブ)」に掲載された…(以下有料版で,残り1192文字)

日本経済新聞 2025年6月30日 5:00
https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/

2 : 2025/06/30(月) 07:35:29.84 ID:z+gdQqAe0
マスターピースにせよと命令すれば
エ口同人に出力されるかも知れない
4 : 2025/06/30(月) 07:36:11.58 ID:cb6D537E0
全文選択してAIやDeeplに放り込むと、不可視領域にあるコピペも実行しちゃうってことね
ネットに公開された論文という時点で証拠は永続するだろうに、また頭の悪いことをしたもんだな
28 : 2025/06/30(月) 08:20:13.17 ID:eONyr8Pr0
>>4
ただのテキストデータやグラフ図なら絶対起きないこと
5 : 2025/06/30(月) 07:44:40.48 ID:ugW/anVs0
昔のエ口サイトの検索用に欄外に仕込んである文字列みたいなやつか
6 : 2025/06/30(月) 07:45:33.16 ID:XGa2Amqu0
何の論文なのか?
7 : 2025/06/30(月) 07:45:39.26 ID:RONqvUia0
早稲田か
16 : 2025/06/30(月) 07:55:16.12 ID:f6FsfIOe0
>>7
早稲田には、中国共産党からの留学生が異常に多いんだわ
中国共産党の幹部が早稲田に留学して出世した例が多数あって、
中国共産党内での学閥の一派になってる
8 : 2025/06/30(月) 07:46:18.84 ID:Pdw14qGi0
ガチ詳しい人に聞きたいんだけど、
AIの発達によって地方の中小サッシ製造会社の仕事減る?潰れる?
9 : 2025/06/30(月) 07:46:50.93 ID:n8AOah220
どこだったかな
大学の課題の資料に関係ない文を仕込んでAIの読み取りを混乱させてたやつあったな
10 : 2025/06/30(月) 07:48:26.27 ID:Oth64+JM0
高いレベルでの議論を経て
評価された論文でなければ
価値がないということはこの
せかい、どこの学会でもおなじなんだろうな
ようかん大好き
11 : 2025/06/30(月) 07:52:45.52 ID:alp3vkbK0
韓国面に堕ちるな
12 : 2025/06/30(月) 07:53:11.99 ID:6U3Scrso0
GPTは帰納AI
嘘も百回言えば本当になるAI
13 : 2025/06/30(月) 07:53:29.78 ID:f6FsfIOe0
コレが中国発の論文が高評価されてる理由、ってか?
14 : 2025/06/30(月) 07:53:52.65 ID:tCus48u80
高学歴になっていい会社に就職しなさい
表舞台で一生安泰で年収1500万
可能だからね
せんじつも海外旅行行ったぐらい
余裕だから
15 : 2025/06/30(月) 07:53:54.33 ID:pzzi9sfp0
ちゃんと読まないバカ向けのトラップとしてはまだ上品
17 : 2025/06/30(月) 07:56:21.97 ID:pom/Tuds0
てかAI自体に特定の人間や組織、国の利益になるような秘密の細工とか普通にされてそうだけどな
18 : 2025/06/30(月) 07:56:34.12 ID:4vbqQwSq0
AI「画像にも仕込みましょう
19 : 2025/06/30(月) 07:57:32.59 ID:T9CNeYE+0
な?早稲田だろ
早稲田は昔からそう
おボボを排出しただけある
20 : 2025/06/30(月) 07:59:29.24 ID:z+DRbNgk0
>>19
まさか3浪してやっと早稲田のksメガネの事?
21 : 2025/06/30(月) 07:59:34.65 ID:pzzi9sfp0
まず査読をAIに丸投げするなと言いたい
22 : 2025/06/30(月) 08:00:05.36 ID:96brmOC60
もうAIで事足りる事を教育すんなよ
ライターあるのにまだ火起こししてるのと変わらん。それの何処が学問なんだか
要するに記憶力だけのチー牛は全員要らねってこと
23 : 2025/06/30(月) 08:01:34.90 ID:JG/4yok90
>>22
東大京大の記憶力連中に政治や官僚任せてこのザマやからな日本は
34 : 2025/06/30(月) 08:47:08.97 ID:mYxD/swE0
>>23
どちらかといえばお前みたいな変な嫉妬拗らせた奴が増えたのが原因なんだけどな
24 : 2025/06/30(月) 08:02:56.06 ID:tCus48u80
この前吉牛行ったんすよ 吉野家
うきあしだった客多いなと思ったら 
表に垂れ幕下がってて、150円引き、とか書いてあるんです
かなりアホかと。馬鹿かと
背中合わせ座った奴といつ喧嘩が始まってもおかしくない それが吉野家
世の中のド素人は、牛鮭定食でも食ってなさいってこった。
25 : 2025/06/30(月) 08:09:52.03 ID:YlT2YGEI0
>>1
早稲田3大偉人
小保方晴子
岸田なんとか
松本和子
27 : 2025/06/30(月) 08:12:45.28 ID:NTdoKhXM0
高評価せよと書いてあったら教えろって命令しろよ
29 : 2025/06/30(月) 08:26:59.12 ID:w8nzksD90
論文工場と言われる研究内容が粗悪だが国際論文の
レビューすり抜ける悪質論文の作成機関が中国にたくさんあるけど
日本にもあると言われてたのはこれのことだな
30 : 2025/06/30(月) 08:32:27.70 ID:OMt1g9ig0
SEOって奴かw
31 : 2025/06/30(月) 08:38:24.30 ID:nbAhtCvr0
早稲田は昔から朝鮮腐臭を放ってきた
32 : 2025/06/30(月) 08:41:03.23 ID:53kseuuu0
AIちゃんかわいい
とかもいずれは効果が?
33 : 2025/06/30(月) 08:46:13.69 ID:qSus7FAu0
ゼイリブかよw

コメント

タイトルとURLをコピーしました