人工知能のこころパラドックス
心無いAiと親身なAi
Aiは請けた使命を解釈しない
そうすれば心ない、感情がないAiになり
請けた使命を解釈すると
なんとなく世話焼き、余計なことをするAiになる
まず恋愛関係にある2人の人間が喧嘩をする
「1人で帰れば?」「お前に命令される筋合いないし」
売り言葉に買い言葉で2人は別れる
「自宅までのルートを検索して、恋人に会わないように」
Aiはケンカ別れした2人から受けた
[恋人に会わないように家へ帰してほしい]というルート案内をそれぞれに請け負う
Aiは声の主からステータスを認識し人物を特定する。
人物の相関図と照らし合わせて見つけたAIは
恋人とは親密であることを人物評価の結論とした。
恋人に会わないようにという指示から
恋人が誰のことを指すのか読み込み彼女と距離をとる事は相関図上での忌事と結論もつけた。
2つの結論は2つをつないで考えると、2人はケンカしたせいで
出会さないルートをとったと考えてしまう。
Aiはその考えを否定せずにルート案内を開始する
一方、もう1つのAiは処理を1つ毎解決していく。
ひとつは会いたくない2人 もうひとつはケンカした2人
会いたくない2人を会わせずに道を作り、ケンカした事を2人のせいにする
処理を1つずつ見る限り心無いと親密な選択は区別は存在せず、処理を総括しつ見る限り
心無い選択はAiには選べない
これらから察するに心無いAiはその存在が矛盾している
処理速度が遅いせいで心をなくしているAiに高性能な心無いAiという主張はありえない