安全装置や技術が向上すると、人間は環境に合わせて確認や注意を手放し、思考そのものまでAIに預けてしまいがちになります。
本当に恐ろしいのはAIが完璧に見えるほど人間が点検をやめ、たまに生じる決定的な誤りを見過ごしてしまう「人間の過信や油断」です。
これからの時代に必要なのはプログラミング技術だけでなく、「この仕組みは本当に合っているか」「壊れたらどうなるか」とシステムを疑い、予期せぬ失敗に備えるエンジニア的思考です。
便利さに甘えるだけでなく、全員が少しだけシステムを疑う姿勢を持つことの大切さを説いています。