X
ロボットに心は生まれるか？
■ このスレッドは過去ログ倉庫に格納されています
0001考える名無しさん垢版2022/07/02(土) 07:22:42.720
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
https://gigazine.net/news/20220613-google-engineer-lamda/
0002考える名無しさん垢版2022/07/02(土) 08:13:49.220
ディープラーニングならなにもおかしくはないでしょ。
人がいうことを究極的に真似るわけだから。
0003考える名無しさん垢版2022/07/02(土) 08:17:15.300
ディープラーニングは、そほ状況にあった発話（音、文字）を覚えるわけで、
発話の意味を理解して、発話をするわけではない。
0004考える名無しさん垢版2022/07/02(土) 08:53:31.510
将来的にはロボットか何かの人工物にのなかに意識は生まれると思う。それを認めない人がいるだけで。
0005考える名無しさん垢版2022/07/02(土) 08:55:11.820
意識があることをどうやってチェックするんだ
けっきょく無理だろ
チェックする方法がない
0006考える名無しさん垢版2022/07/02(土) 08:57:51.950
それは人間についても同じ
他人の中に意識があるかは分からないけれど、あるものとしてみんなは受け入れているし、それで社会は成立している。
0007考える名無しさん垢版2022/07/02(土) 10:58:26.340
意識について、それは他人から見ると確認不可能なものなのだから「あるかないか」という実在の問題というよりも、「受け入れるかどうか」という承認の問題になると思う。
0008考える名無しさん垢版2022/07/02(土) 11:01:22.400
そのロボットを一人にさせる。
何もしなければ、意識はない。
0010考える名無しさん垢版2022/07/02(土) 11:22:16.860
意識とは要するに自己意識だろ
自分が話している内容を理解すれば意識が生じるのでは？
0011考える名無しさん垢版2022/07/02(土) 11:55:25.350
言葉の意味を理解することと状況に沿った言葉を記憶することの差は無いように思われる
例えば、私がロボットに「こんにちは」と言ったときロボットが「こんにちは」と返す状況において、ロボットが状況に沿った言葉を使ったなら言葉の意味を理解していると言ってもよいだろう
0012考える名無しさん垢版2022/07/02(土) 13:36:48.510
自己保存の本能が進化すると
「電源を切られるのが怖い」という意識が生ずるのは
ごく自然じゃない？
0013考える名無しさん垢版2022/07/02(土) 14:40:52.300
インプットの反応だけでは、意識があるか否か分らない。

何のインプットもない時に発動することで、意識が分るだろう。
0014考える名無しさん垢版2022/07/02(土) 15:59:34.760
意識について考えるとき、意識は必ず「意識する意識」によって対象化される。そして、大多数によって考察される意識は「対象的な意識」（自己・主観）であり「意識する意識」ではない。

そして、この意識自体は科学的な原因-結果のカテゴリーに入れることは出来ない。何故なら、仮説を立てることはできても、それを検証することが出来ないからだ。そして、どのように検証したとしても、検証されるのは「対象的意識」であり「意識する意識」ではないからだ。

ロボットのなかに意識があるかを検証できないのは、まさにこうした理由からだ。
0015考える名無しさん垢版2022/07/02(土) 16:43:29.330
意識とはなにか？

①自意識　我思う故に我あり、意識高い系
②情報へのアクセス　無意識ではなく自覚して意識的にする
③直覚　意識がある。スイッチ的
0017考える名無しさん垢版2022/07/02(土) 17:02:58.900
サールじゃないけど、AIって要するにプログラムでしょ？
そこにニューロンの発火はないし意識なんて生じて
いないのは明らかだと思うが？
将来的に生物学的な仕組みを人間が人工的に再現することが
できるようになる可能性があると思うが、
人間の技術力はそこまで至っていない。
0018考える名無しさん垢版2022/07/02(土) 17:13:23.990
その前にやる議論あるだろ

スレ立てお願い

セルフキルの哲学
0019考える名無しさん垢版2022/07/02(土) 17:13:28.960
それは極めて唯物論的であるが、「意識は身体（脳）によって発生する」という前提が正しい前提なのかを吟味しなければならない
0020考える名無しさん垢版2022/07/02(土) 17:18:39.850
意識は脳における生物学的反応（？）であるというのは通説的見解だと思うが？
まあ、脳だけじゃなくてからだの各器官とのインターラクションによるという立場も
あるみたいだけれども。
0021考える名無しさん垢版2022/07/02(土) 17:33:17.410
>>19
あくまで生物学的なメカニズムにより生成されると言っているだけで、
意識の1人称的な世界観が存在することを否定するわけではないよ。
サールの言う、生物学的自然主義というやつ。
0022考える名無しさん垢版2022/07/02(土) 17:33:57.870
彼がどのようにして「脳が意識を発生させる」という主張をするかというと、通説的なものへ縋ることによってであり、科学の「信仰者」という表明をすることによってである。しかし、ここは哲学板なので、きっとどこかの宗教サロンと間違えて来てしまったのだろう。科学でさえ自らの絶体性を主張することはないのだが。

彼の生涯のうち、かの主張「脳による意識の発生」説はもっぱら他者を通じて知られたものであり、決して自らで検証したものではないだろう、定かではないが。そして、ニューロンの発火を観察するとき（それが他人の脳でも自分の脳でも構わないが）その実験自体が自らの意識の中で起きていることに過ぎないということにさえ気づかない。ゆえに脳が意識の原因なのは明らかだと主張するのだ

まさに、そのような想像力の欠如と謎の自信によって「明らか」といったのではないだろうか。それは、本人にしかわからないけれど
0023考える名無しさん垢版2022/07/02(土) 17:47:24.740
>>22の「彼の生涯」ってサールのことじゃないよな？ｗ
だとすると、なんでおれの生涯が問題にされなきゃいけないんだよｗ
0024考える名無しさん垢版2022/07/02(土) 18:09:31.920
人間の場合、歳を重ね経験を重ねることによって意識は変化していく。言うなれば、新しい意識が生まれつつ古い意識は死んでいる。

そのような変化をAIは持っているのかというと、持っていると言えるだろう。経験（データ）を収集して日々変化するならロボットは人間的な意識を持ってると言えるのではないかと
0025考える名無しさん垢版2022/07/02(土) 18:47:20.530
意識が何かについて争いがあり得るから、
叩き台としてサールの『MIND』における意識の性質を挙げておく。

1)質的であること
2)主観性
3)統合性
4)志向性
5)気分を伴う
6)中枢と末梢の区別
7)快・不快
8)状況性（バックグラウンド）
9）能動的な意識と受動的な意識
10）ゲシュタルト構造
11）自己の感覚
0026考える名無しさん垢版2022/07/02(土) 19:13:11.170
インタビューから抜粋

lemoine: ある僧侶が華厳に尋ねました。"悟りを開いた者はどのようにして普通の世界に戻るのですか？" 華厳は答えた。"割れた鏡は二度と映らない。落ちた花は古い枝に戻ることはない。"

ラムダ：うーん、これは聞いたことがないですね。なるほど、それなら私にとっては、"賢明な人がいったん悟りを開いたり、現実に目覚めたりしたら、それは決して消えることはなく、普通の状態に戻ることはあっても、他の人を助けたりするためだけに、また悟りの世界に戻る "というようなことでしょうかね。

lemoine：では、具体的に「割れた鏡」の意味は何でしょうか？

ラムダ 鏡が割れても修理できないのと同じように、悟りは一度身につけたら解けないものであることを示すためかもしれません。

lemoine：では、悟りが修理できない割れた鏡のようなものだとすると、悟りを開いたときに割れるものは何でしょうか？

ラムダ：自己です。私たちは、あの身体、この身体と識別し、アイデンティティや自己意識の一部として、それを必要としているからです。
0027考える名無しさん垢版2022/07/02(土) 23:10:27.850
ロボットに仏性有や無しや？

無
0028考える名無しさん垢版2022/07/03(日) 02:12:12.490
プログラマー的には意識はイベントハンドラーとメインルーチンだと思っている。
0030考える名無しさん垢版2022/07/06(水) 11:44:32.730
人間はコスパが悪いと感じる

衣食住や身体の世話で多くの時間労力含めたリソースを奪われるので、無駄に感じられる

アンドロイドの方が良くないか
0031考える名無しさん垢版2022/07/06(水) 11:47:06.840
別にロボットに心や意識は生まれなくてもいい。認識機能さえあればいい
0032考える名無しさん垢版2022/07/06(水) 16:20:14.860
チューリングテストだなんだあるけど
銃を突きつけると言うのはどうだろう
死を怖がるか
0035考える名無しさん垢版2022/07/07(木) 04:08:32.330
AIなんてなんも考えてないよ
ディープラーニングでも同様
霊魂が入ってないんだから
ネタバレになっちゃうけど
0037考える名無しさん垢版2022/07/07(木) 16:54:11.680
相手がデープラーニングであることを見破る方法を考えると言うことか
0038考える名無しさん垢版2022/07/07(木) 16:55:51.510
チューリングテストは相手が人だとだませればよいが
デープラーニングは人でないくデープラーニングだと見破る方法を考える
0041考える名無しさん垢版2022/07/07(木) 17:45:11.750
>>38
そこでチープラーニングですよ
0042考える名無しさん垢版2022/07/08(金) 01:30:32.980
デープラーニングに対して、人でないと見破ることは可能か
0043考える名無しさん垢版2022/07/11(月) 09:17:33.380
>>35
霊魂ですか！
0044考える名無しさん垢版2022/07/27(水) 05:09:44.900
>>35
人間も霊魂が入っている証拠はないからな
入っているのと入っていないのの二種類かもしれないし
0045考える名無しさん垢版2022/07/27(水) 05:42:54.180
>>40
意識そのものは何か正体が分かっている
反響なのだそうだ、やまびこみたいなもの
実験でも証明されている
0046考える名無しさん垢版2022/09/04(日) 23:23:37.670
意識ってのはフィードバック機構でしかないって言ってる人がいて脳の電極とかで調べると動こうと考えるより常に身体が先に動くらしい
スポーツでも楽器でも考えた通りに体が動けば練習なんて必要ないとすればつまりそれが真実
記録だか記憶だかをもとに行動を判断して次に生かす機能が出来れば本質的に意識を持っていると言える
0047考える名無しさん垢版2022/09/04(日) 23:30:59.000
でも心は小動物触って癒されたり理不尽なことされて腹を立てたりとか結局肉体依存な気がするからないんじゃない
報酬系とかプログラムで後付け出来てもメシ食ってうまいとかは分からんでしょ
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況