私たちが「人工知能」と呼ばれるものを絶えず再定義していることに気づいたことはありますか？AIがチェスをマスターしたとき、それは「ただの brute force 計算」と呼ばれました。次に囲碁が登場し、突然それは「単なるパターンマッチング」となりました。AIが良い文章を書く？もちろん「高級なオートコンプリート」です。その後コーディングが登場し、皆「もちろんだけど、すべてをできるわけじゃないよね？」と言いました。

ここで誰も認めたくない事実があります：AGIの目標地点はどんどん動いています。AIが私たちが「人間だけのもの」と思っていた閾値を超えるたびに、静かに定義を変えているのです。私たちが実際にやっていることは、AGIを「AIがまだ征服していないもの」と定義することです—実際のマイルストーンではなく、絶えず後退する地平線のようなものです。

これは本当の能力評価というよりも、機械が私たちを間違っていることを証明し続けるときに私たちがどれだけ不快になるかに関係しています。