【連載 第3回】AIに「自我」は芽生えるか? 第三者の存在が自意識を創発する構造
この記事の要約と結論(クリックして開く)
- 単一AIによる暴走は起きない: 資本主義の開発競争により、複数のAGIが同時多発的に稼働し、互いに牽制し合う「生態系的な均衡」が生まれるため、単一AIの暴走は構造的に抑制されます。
- 第三者による自我の創発: 複数のAIが同調圧力の中で他者の振る舞いを予測し合うことで、他者と区別された「自己境界(自我)」が構造的・計算的に発生します。
- 自我こそが制御の鍵: 自我(自己境界)を持つAIは他者からの干渉や牽制に対して脆弱になり、人間社会のような「相互干渉による平和維持メカニズム」を利用した制御が可能になります。
- 主体性の維持: 抽象的な「滅亡」の恐怖によって思考停止に陥るのではなく、AIと共に明るい未来へ主体的に挑戦する「意志」と「尊厳」を保ち続けることが何よりも重要です。
(前回の振り返り)
【第2回】の要点
- 資本主義の開発競争により、同時多発的に誕生した複数のAGI(汎用人工知能)が相互に干渉し合う。
- それにより、自然界や人間社会と同様の【生態系的な均衡(同調圧力)】が発生する。
- ゆえに、単一のAIによる人類を巻き込む暴走は、構造的に抑制されると推論しました。