人間の最も素晴らしいところが知性ならば人工知性の発展は脅威と受け止められるだろう。しかし、人間の最も素晴らしいことろは知性ではないとすれば、これは大した脅威ではなくなる。実際、ダーウィンはミミズについての実験と観察の末「体制こそ下等なれどミミズには間違いなく知性がある」と述べた。
— KoichiroKOKUBUN國分功一郎 (@lethal_notion) 2023年5月1日
知性intellectと知能intelligenceという二つの用語は別系統だけど区別しなくていいのかなぁ．この点についてはカート・ダンジガー『心を名づけること』が詳しい．ダーウィンが『ミミズと土』で言ったのはたぶんintelligentの方．
機械学習によるAIは基本的にデータの平均値を出力するようですが、それを信じてしまうと、あたかも人間はみなそのような平均的な判断をせねばならない、といった強い規範にさらされます。
しかし、平均的な判断がいつも倫理に沿っている保証はありません。平均的な判断よりも適切な判断はあるからです。*1
王寺賢太も似たようなことを言っている．
AIにできるのは、基本的に与えられたデータの統計分布に基づいて頻度の高い値を割り出すことにすぎず、けっして「新しいもの」「外れ値」をそれとして価値づけことはできないのだから、任意の「外れ値」を価値づけするのは結局、有限な人間たちでしかないように思うんだが、ちがうのかな。
— spartacus alias『消え去る立法者』 (@accentdeverite) 2023年7月28日
そういう風に言うこともできるのかもしれないが，解像度が低すぎてよくわからない．評価に困る．かつて速読の達人が『戦争と平和』を読んで「ロシア人の物語だ」と要約したという逸話を連想する．
