■1. 読もうと思ったきっかけ
- タイトル買い。インフラの観点で生成AIが及ぼす影響がパッと思いつかなかったので。
■2. 印象に残った内容
- 生成AIに作業を任せるにせよ、まずは失敗ありきで物事を考えること、カバーすること、チェックすることを前提にしないといけない。
■3. 気になった一文
P.71）デジタル刺激による暇つぶしが常態化することで、逆に何もしない時間の不快感が増え、慢性的な退屈を引き起こしている。
- スマホが常態化=デジタル刺激が常態化。自身も心当たりある。意図的にスマホに離れる時間は必要。
P.117）AI依存は、「人間を思考をAI依存にする層」と、「AIを指揮するための思考を鍛える層」へ二極化する。
- 後者が一人で複数人分の仕事をして、多くの人の仕事を奪う未来を想像する。
P.212）GPTを使うと、自力で問題を解く力が育まれない可能性がある。
- 著書の中で、具体的な調査結果を交えて説明していた。
- 私も同じことを何度も生成AIに尋ねるから、身についていないと実感すること多し。
P.266）人間に残るのは「例外的なケースの対応」と「ルールそのものの見直し」、「権限管理」や「監査対応」になる。
- 世界を作る。枠組みを決める。設計する。とか抽象化されているものを具体化するのがメインになる。
P.303）もしこの作業を人に任せるとしたら、どこを確認すべきかを日常的に考えること。
- AIに作業を任せるなら大丈夫だよねの確認方法も同時に考える。
P.309）人間主義と責任の所在を仕組みとして埋め込む。 … 「何を最優先とするのか」、「どこで安全を保証するのかという原則」が共有されていれば、想定外の事態でも判断が可能になる。
- 作業を任せる原則。お客様が損しないとか。
P.311）生成AIが代替しかねる領域、人間であることが価値を生むような領域。 高信頼、高文脈、高責任。
- 高信頼 … 支援 / 育成 / サポート。
- 高文脈 … ハイコンテクストの世界。PMとか。
- 高責任 … 命の関わるもの。病院の診察はAIだけにやってもらいたくはない。あくまでもAIは補助。医者が説明してほしい。
P.340）どの仕事を、どの責任範囲で、どの失敗パターンまで許容して自動化するか。
- 「失敗パターンを最初から組み込む」, この考えは無かった。別のチェッカーAIを用意してやってもらうくらいが必要。