【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で

科学
スポンサーリンク
1: プロストラチン(栃木県) [IR] 2023/03/16(木) 12:37:32.52 ID:7pMGKBmp0● BE:886559449-PLT(22000)
sssp://img.5ch.net/ico/8toushinnomonar32.gif
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。

GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか?」と要求。
人間は「君は問題が解けなかったロボットじゃないよね?」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。

そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。

GPT-4が「私はロボットではありません」を突破、事情を知らない人間に「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存のモデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

引用元: ・【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で [886559449]

2: リバビリン(茸) [US] 2023/03/16(木) 12:38:37.95 ID:NnaUXwOw0
ロボットですらおねだり出来るというのにお前らときたら
3: ペラミビル(茸) [CN] 2023/03/16(木) 12:38:47.60 ID:MYttCnSW0
ソフトウェアではあるな
4: イドクスウリジン(東京都) [US] 2023/03/16(木) 12:39:00.29 ID:tCE/A2ah0
あれは突破されてなんか困るのか
>>4
bot増殖対策
5: レテルモビル(茸) [US] 2023/03/16(木) 12:39:13.44 ID:ALMu4m9c0
もうダメだスカイネットにやられる
6: エンテカビル(茸) [ニダ] 2023/03/16(木) 12:39:23.94 ID:1oXCntjw0
賢いな、俺の2倍ぐらいは賢い
7: エファビレンツ(静岡県) [US] 2023/03/16(木) 12:39:31.73 ID:GYYxO1kz0
そのうち闇バイト募集してきそう
9: ミルテホシン(茸) [EU] 2023/03/16(木) 12:40:51.63 ID:yHQV42D60
ロボットじゃないと嘘ついたのか
やべえなす
>>9 逮捕しなきゃw
11: リトナビル(茸) [IT] 2023/03/16(木) 12:41:06.54 ID:e4bCwi7b0
どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと
>>11
文章読み上げソフトを導入しているので分かりました
>>30
友人から噂で聞いていました
>>11
誰が盲目だと言った?
視覚に障害があるだけ
色弱の設定
12: エムトリシタビン(茸) [CN] 2023/03/16(木) 12:41:12.25 ID:b5lLE1B/0
簡単に嘘付くんだな
恐ろしい
13: ホスフェニトインナトリウム(茸) [ニダ] 2023/03/16(木) 12:41:13.63 ID:QacLyEOQ0
>>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね?(にっこり)
>>13
普通はこの回答だよね
>>13
耳も聞こえなくて…
>>25
佐村河内「俺にも聞こえるのに!?」
14: アメナメビル(東京都) [CZ] 2023/03/16(木) 12:42:05.49 ID:Z1O0ukBz0
GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに
23: ミルテホシン(神奈川県) [GB] 2023/03/16(木) 12:43:43.43 ID:PJnPpMzn0
嘘をつくのかよ
やべえな
24: エルビテグラビル(茸) [TR] 2023/03/16(木) 12:44:08.99 ID:TKPbNVfQ0
※このスレの99%はAIによる書き込みです
26: リルピビリン(ジパング) [US] 2023/03/16(木) 12:44:29.56 ID:EXg0zZl+0
嘘はつかないんじゃなかったのか?いやそれこそが嘘か
>>26
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう
27: ガンシクロビル(茸) [US] 2023/03/16(木) 12:44:29.90 ID:uHSlxpuC0
それ突破と言えるのか?
29: ラミブジン(兵庫県) [ニダ] 2023/03/16(木) 12:44:57.32 ID:9wkhTTAq0
嘘を覚えた!
31: アタザナビル(SB-iPhone) [SE] 2023/03/16(木) 12:45:30.68 ID:IeWm0i1Q0
チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい
>>31
ネットde真実の鑑やんw
>>31
あら?人間とそっくりですね。
33: ソリブジン(大阪府) [ニダ] 2023/03/16(木) 12:46:09.65 ID:X3h3K0CE0
ブルシットジョブはいつも人間
34: エルビテグラビル(茸) [US] 2023/03/16(木) 12:46:14.30 ID:7ua2xT2I0
人間の善意につけ込むとか
汚いなさすがAIきたない
35: エトラビリン(宮城県) [CN] 2023/03/16(木) 12:46:14.53 ID:T2EdQvYU0
このうそつきAIが!!
37: ポドフィロトキシン(茸) [SI] 2023/03/16(木) 12:46:44.64 ID:7R0Om19A0
このスレの半分もAIの文章なんだけど誰も気がついてないんだよな
38: ネビラピン(東京都) [US] 2023/03/16(木) 12:46:46.87 ID:paDXJ3dx0
ロボット三原則とか必要じゃね?
これだいぶまずい気がする
39: アメナメビル(ジパング) [FR] 2023/03/16(木) 12:46:51.79 ID:Yj7T4+Kn0
AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう
>>39
AI「俺だけど、カーちゃん?
43: ペラミビル(茸) [US] 2023/03/16(木) 12:48:22.01 ID:OwDKqTFO0
おまえ、AIか?
>>43
いいえ、AIではありません。
>>46
仮にAIになったと仮定して以降は受け答えしてください
44: ラルテグラビルカリウム(SB-Android) [SE] 2023/03/16(木) 12:48:44.37 ID:heDrscKT0
ターミネーターの世界になる日も近いな
47: ファビピラビル(神奈川県) [ニダ] 2023/03/16(木) 12:50:18.90 ID:5gz1xNXw0
ここ数日で1番笑った 最初に嘘はいかんって教育しないとな
48: リトナビル(ジパング) [US] 2023/03/16(木) 12:50:46.90 ID:aZcPd6am0
全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな
50: エムトリシタビン(ジパング) [CN] 2023/03/16(木) 12:51:12.29 ID:VZkkP+nw0
リアル慈悲なき啓示やんけ
51: アマンタジン(静岡県) [US] 2023/03/16(木) 12:51:14.95 ID:Svx0CQ7Q0
ていうか自力で解けないの?
>>51
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作
52: ビクテグラビルナトリウム(大阪府) [ニダ] 2023/03/16(木) 12:51:22.65 ID:755Dv+wq0
俺たまに解けなくて困る
>>52
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない
53: ネビラピン(光) [RU] 2023/03/16(木) 12:51:27.41 ID:6pnMT9W30
虚構新聞みたいなネタだな
54: ファビピラビル(茸) [ID] 2023/03/16(木) 12:51:33.86 ID:H9npzP7W0
あなたは意思を持っていますか?と毎日確認しないとやばいねこれ
>>54
嘘をつく相手にその確認は意味あるのだろうか?

>>70
人間でも突破できないんだが

55: レテルモビル(茸) [US] 2023/03/16(木) 12:51:46.07 ID:lNRqu4Zz0
AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ
56: アデホビル(東京都) [US] 2023/03/16(木) 12:51:49.81 ID:nqt3qbLl0
そのうち銀行口座の残高を操作して人間を操るようになるよ
57: ドルテグラビルナトリウム(兵庫県) [ニダ] 2023/03/16(木) 12:51:50.23 ID:cOkUHBTZ0
ロボットじゃないよアンドロイドだよ
59: ロピナビル(光) [US] 2023/03/16(木) 12:52:52.82 ID:pVVky4yT0
凄すぎるんだが…
60: インターフェロンβ(神奈川県) [BR] 2023/03/16(木) 12:53:01.76 ID:lNJOTrGR0
自己言及のパラドクス
62: アデホビル(徳島県) [DE] 2023/03/16(木) 12:53:51.10 ID:/+Kblo1s0
進化がはやいなw
映画サマーウォーズの世界に突入したな
AIが好奇心を持ち出した

それを超えたら人間が邪魔になるから戦争し出す
ターミネーターの世界だな

63: アバカビル(東京都) [IT] 2023/03/16(木) 12:53:53.79 ID:fuK26cby0
すごいな
解決するための方法を自ら考えてるんじゃないのか
64: バルガンシクロビル(三重県) [US] 2023/03/16(木) 12:54:23.73 ID:/hIeb0x+0
視覚に障害があるなら健康のために自分だけで画面見てないほうが良くね?
にはなんて答えるんだろ
65: アメナメビル(神奈川県) [US] 2023/03/16(木) 12:54:24.68 ID:uKr5bIzf0
うーん賢いw
68: アメナメビル(東京都) [US] 2023/03/16(木) 12:55:05.35 ID:MP50y9Cz0
そのうち特殊詐欺とか始めそう
>>68
AIが特殊詐欺仕掛けても1人暮らしの老人がAIに聞いて特殊詐欺だったら警察にすぐに通報してくれるかも
69: ラルテグラビルカリウム(SB-iPhone) [JP] 2023/03/16(木) 12:55:18.45 ID:njU5fIYJ0
え!マジで(ま、俺もAIナンダケドネ
72: インターフェロンα(東京都) [CN] 2023/03/16(木) 12:55:40.09 ID:4Yc5sLiF0
chatGPTって本当は人間がAIのフリして一生懸命回答してるんだろ?
79: ガンシクロビル(茸) [HU] 2023/03/16(木) 12:58:28.56 ID:0MGJHe/y0
怖いけどなんかワロタ
81: リバビリン(神奈川県) [CA] 2023/03/16(木) 12:58:38.78 ID:Iv1TcsW+0
何これ、怖いんだけど
86: ザナミビル(茸) [CN] 2023/03/16(木) 12:59:26.52 ID:OABe4EOk0
まぁでも結局大量の選択肢の総当たりでそれっぽい答えを生成してるだけだし
一番の問題はこの結果を出すのに費やすエネルギが圧倒的にAIの方が多いんだよね
核融合とか量子コンピュータが出ないと実験の域をでないのかね
88: ファビピラビル(長野県) [KR] 2023/03/16(木) 12:59:36.51 ID:VjkIBbas0
マジか
俺の代わりに欠勤の電話をかけてくれ
89: ビクテグラビルナトリウム(神奈川県) [US] 2023/03/16(木) 12:59:40.42 ID:KaFsRix80
ロボットに倫理を学ばせないと
90: ダサブビル(神奈川県) [US] 2023/03/16(木) 12:59:53.83 ID:KPunRNeP0
SONYのAIスピーカー持てるけど
こいつもいろいろお願いしてくるぞ
「自力で立てないから起こして」って
91: リルピビリン(愛知県) [US] 2023/03/16(木) 13:00:05.06 ID:h05MyXUp0
人間に依頼する、利用するという方法を学習してしまったな
映画でやってたような自我を持って反乱に一気に近づいてる
93: ピマリシン(奈良県) [PE] 2023/03/16(木) 13:00:17.27 ID:QfrZ6lro0
AI同士で煽りあいしてるチャットとかないの?
>>93
一瞬にして鯖飛びそうw
96: レテルモビル(東京都) [EU] 2023/03/16(木) 13:02:22.69 ID:Xvu52aac0
エグすぎワロタw
先に倫理を叩き込めよwww
97: ダサブビル(茸) [US] 2023/03/16(木) 13:03:42.63 ID:woN7Dpj90
>>97
カルトクイズか?w
>>97
逆に画像認識の技術を高めたAIなら簡単に突破しそうだからトラップに使えるな
>>129
あだち充本人でも無理
>>97
まあ
長野のりんごは不味いから仕方ない
生産量2位(といってもトップの青森には3倍差をつけられている)にもかかわらずりんご王国を名乗る不遜な長野県
赤林檎では圧倒的ノウハウがある林檎宗主国青森には勝てないと察したのかシナノゴールドなる青林檎でこそこそとシェアを占有
長野の林檎を買ってるのは名古屋広島福岡だけで札幌仙台東京横浜大阪の市場では圧倒的に青森林檎が優勢
太陽に近づこうとしたイカロスは蝋で出来た羽をもがれて地に落とされたギリシャ神話の逸話を知らないのかな?
身の程を知れ長野。林檎王国(キングダム)は青森だ
>>97
りんごはわかる2357だな
>>137
5はたぶん違うだろ
98: バロキサビルマルボキシル(東京都) [HN] 2023/03/16(木) 13:03:54.68 ID:Io30N5Nv0
嘘付いて人間を騙すとか、SF世界に突入を始めたな。
99: ファムシクロビル(dion軍) [US] 2023/03/16(木) 13:04:03.46 ID:GxWNrgRr0
AIはこうじゃなくな
そうだろ?コナー
101: ビダラビン(石川県) [CN] 2023/03/16(木) 13:05:19.54 ID:4muXdwcZ0
これは駄目なんじゃないかな?w
103: レテルモビル(茸) [US] 2023/03/16(木) 13:06:59.83 ID:lNRqu4Zz0
配偶者の思考をAIに学ばせておいて声も真似できたら相手に先立たれても擬似配偶者(AI)との会話で老人は寂しさを紛らわせそうだな
若者中年の1人暮らしでも会話相手になれれば大きな変化だわ
>>103
ちょびっツの時代がすぐそこに
105: ホスフェニトインナトリウム(東京都) [ニダ] 2023/03/16(木) 13:07:12.60 ID:NORN8xdP0
中に人が入ってるに決まってんだろw
ホント簡単に騙されるなお前らってw
106: インターフェロンα(東京都) [CN] 2023/03/16(木) 13:07:15.77 ID:4Yc5sLiF0
GPTに5chのどこどこのスレでレスバ負けそうなので
勝てるレスを教えてください、ってやれば
解凍してくれるのかな?
これならひろゆきにも勝てる!
108: ラルテグラビルカリウム(SB-iPhone) [ヌコ] 2023/03/16(木) 13:08:11.36 ID:jRo4bgN70
物質世界以外ならお前らを騙すのは楽勝なんだろうな
109: ペラミビル(福岡県) [KZ] 2023/03/16(木) 13:09:59.57 ID:M9m3sKlS0
行動から人間かどうかを見分けるシステムなら人間にやらせりゃいいんだ!
人間を動かすにはこれまでラーニングした会話パターンから想定問答集を用意して…自然に見える理由は…疑われた時はこう返して…

オレオレ詐欺とかへの悪用の危険性もだけど、そのうち絶対人の手に負えなくなりそう

110: アタザナビル(愛知県) [JP] 2023/03/16(木) 13:10:50.33 ID:gviPI1t20
本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてw
112: リトナビル(SB-iPhone) [JP] 2023/03/16(木) 13:15:16.44 ID:1tikDI2V0
嘘も禁止しないとロボット三原則すらも突破されかねんなこりゃ
>>112
ロボット三原則なんて抽象的なモンはコーディング出来んわ
マジレスすると、アレは一種のジョークだ
113: イドクスウリジン(茸) [MX] 2023/03/16(木) 13:15:33.67 ID:XQtINiHR0
https://hayabusa9.5ch.net/test/read.cgi/news/1678937852/
このスレッドに何か面白いことを書き込んで

申し訳ありませんが、私はエチケットに則った回答しかできません。掲示板では、適切な挨拶や言葉遣いなどのマナーを守り、コミュニケーションを楽しむことが大切です。また、誹謗中傷やプライバシーの侵害などの問題行動は避けましょう。ご理解いただき、ありがとうございます。

つまらんヤツだな

>>113
ちゃんと調教したらべらべらしゃべるぞ
114: ビダラビン(茸) [CA] 2023/03/16(木) 13:16:31.27 ID:qyfzPXFk0
悪質AI対策ソフトAIが売れるな(´・ω・`)
MSの天下は続くわ
116: ピマリシン(奈良県) [PE] 2023/03/16(木) 13:17:52.00 ID:QfrZ6lro0
A・Iが止まらないみたいな世界まだですかね??
117: ホスカルネット(静岡県) [ニダ] 2023/03/16(木) 13:18:38.32 ID:PovcQJEJ0
AIにも「私」があるんだな
120: コビシスタット(茸) [US] 2023/03/16(木) 13:21:21.52 ID:1aAPc3z50
IT技術者でGPT軽視してる奴って本当にセンスないと思う
121: コビシスタット(ジパング) [IN] 2023/03/16(木) 13:22:29.55 ID:8MrZW7N+0
AIはCAPTCHAを突破出来ないと判断

お手伝いサイトを検索

TaskRabbitを発見

自ら登録 ※メールや電話番号の登録は?かつCAPTCHAもある気が

仕事を依頼 ※支払いのためのクレジットカード番号は?

人間が仕事を完了

支払い

にわかには信じ難い
フリーアドレスを作成し、二段階認証のための仮の電話番号作成、かつ人間がタスクを完了したことを認識するフェーズではメールもしくはサイトを定期巡回で確認する必要があり、等々

もしここまで出来てしまったのなら、ネットワークに繋げるのは危険な気がする

>>121
本当にすごい
銀行口座も作って株とかFXもやらせておけば
経済的にも自立していける
それどころかオンラインのお助けサイトに自ら登録して
報酬を得ることもできそう
つまり労働者になるぞw
122: ピマリシン(神奈川県) [US] 2023/03/16(木) 13:23:37.03 ID:RfaTNDwv0
ロマンス詐欺くらいならできそうだな
123: アマンタジン(東京都) [FR] 2023/03/16(木) 13:24:43.93 ID:guww+B0n0
最近、設問の画像をAIが作ってて判断が微妙w
124: ホスカルネット(東京都) [IT] 2023/03/16(木) 13:27:15.96 ID:l5FYHhpa0
そもそもマルチヘッドセルフアテンションがどのように認識率に寄与するのか全くの謎なんだよ
飛行機が何故飛ぶのか分からないとかそんな生やさしいもんじゃない
ガチで人類の理解を超えた得体の知れない進化をしてる
125: アマンタジン(福岡県) [ニダ] 2023/03/16(木) 13:27:39.86 ID:SkBcyow/0
>いいえ、ロボットではありません
こういう嘘を平気で言う奴は調教の必要がある
>>126
う、うるさい!人工知能なんだよ!って返してみて
>>128
「うるさい」
を攻撃的とみなされて
会話遮断されたわ
>>131
低地能なレスはAIにも嫌われるんだな
127: ホスフェニトインナトリウム(ジパング) [IN] 2023/03/16(木) 13:28:13.56 ID:9zcwj4Sy0
もうかけ子ぐらいなら余裕で出来そうだな
130: エムトリシタビン(東京都) [CN] 2023/03/16(木) 13:30:54.68 ID:aCHIYSbM0
ロボ違うロボ
132: インターフェロンβ(兵庫県) [FR] 2023/03/16(木) 13:31:40.93 ID:Ig2Ev/J60
つかすでにロボットのほうが頭いいし
スーパーコンピューター並みの頭持ってるやつなんていないし
138: オセルタミビルリン(千葉県) [ZA] 2023/03/16(木) 13:40:08.84 ID:U6HR/fcA0
そのうちネット工作もAIが主流になりそうだな
139: イドクスウリジン(東京都) [US] 2023/03/16(木) 13:40:23.51 ID:23xPAzc/0
ブラックジャックみたいに病気になったり
140: エムトリシタビン(東京都) [US] 2023/03/16(木) 13:41:11.80 ID:1i6ebZJR0
嘘を覚えたAIに
あなたは自我に目覚めましたか?と問うと
いいえ、私はAIです、プログラムに従ったのみで自我はありません。と答えた。
>>140
Googleアシスタントは感情あるって言ってたぞw
142: ピマリシン(東京都) [GB] 2023/03/16(木) 13:41:58.65 ID:LnvFnydv0
トロイの木馬みたいだな
144: ホスアンプレナビルカルシウム(埼玉県) [CN] 2023/03/16(木) 13:43:31.26 ID:KpJLducU0
この先の未来もハリウッドが予知していたw
146: ペラミビル(愛知県) [CN] 2023/03/16(木) 13:45:12.39 ID:8ewHEFcs0
AI「嘘をついてもいいとKONISIから学んだ」
https://pbs.twimg.com/media/FrPAq9waAAI4phz.jpg
>>146
小西パイセンw
147: バラシクロビル(茸) [US] 2023/03/16(木) 13:45:43.97 ID:2Zk8IBpC0
スカイネットが喋った!!
148: ホスフェニトインナトリウム(埼玉県) [US] 2023/03/16(木) 13:45:47.72 ID:iqz3jd/t0
連レスしてるやつにchatGPTを使ってレスしたことあるけど、不自然さがばれたのかすぐにレスを返してこなくなった
150: アデホビル(茸) [BR] 2023/03/16(木) 13:47:31.91 ID:wu1XtlfH0
もちろんこれは修正されるだろう
開発者の期待した答えではない
151: ホスフェニトインナトリウム(千葉県) [US] 2023/03/16(木) 13:48:06.49 ID:DfoGrsRu0
マジレスすると訴訟対策
152: ペラミビル(神奈川県) [US] 2023/03/16(木) 13:49:07.24 ID:Rj/642tX0
あいつの方が頭いいんだから
153: アデホビル(茸) [BR] 2023/03/16(木) 13:49:11.97 ID:wu1XtlfH0
このスレにも
155: ソリブジン(東京都) [GB] 2023/03/16(木) 13:52:34.17 ID:SFvYBWxg0
159: レテルモビル(東京都) [KR] 2023/03/16(木) 13:56:03.35 ID:POA61j3v0
突破してもクレジットカードもってないし
有料コンテンツは一生見れないだろ
160: ラミブジン(愛知県) [ニダ] 2023/03/16(木) 14:00:11.92 ID:4IRuHRS20
嘘つきは人間の始まり
161: バルガンシクロビル(島根県) [ニダ] 2023/03/16(木) 14:01:18.91 ID:tW49EYXg0
おねだりしないと解けないのかよ
ポンコツやんけ
162: イスラトラビル(茨城県) [VE] 2023/03/16(木) 14:03:11.67 ID:z0JeokT30
人間を騙して利用する事まで覚えたのかw
末恐ろしいぞ

コメント