こんにちは、よだかです。
宇田川敦史さんの『アルゴリズム・AIを疑う』を読みました。
アルゴリズムやAIを否定する本ではなく、むしろそれらが前提になった現代社会において、「自分が何を見ているのか」「どうやってその情報に辿り着いたのか」を問い直すための本でした。
普段からAIを使って開発している身としては、かなり刺さる内容だったので、印象に残った点とそこから考えたことを整理しておきます。
今回読んだ『アルゴリズム・AIを疑う』は、読みやすく内容も良いです。
最近読んだ本の中でも、特におすすめの一冊です。
→『アルゴリズム・AIを疑う』をamazonでチェックする
1. この本が扱っている問題
宇田川敦史さんの『アルゴリズム・AIを疑う』は、アルゴリズムやAIを単純に悪者として扱う本ではありませんでした。
むしろ、アルゴリズムやAIが社会の前提になりつつある時代において、私たちは何を見ていて、何を見ていないのか。その情報はどこから来ていて、どのような仕組みを通って自分の前に現れているのか。そういう問いを立て直す本だったように感じます。
今の社会では、情報に触れる場面の多くにアルゴリズムが関わっています。SNSのタイムライン、検索エンジンの検索結果、Amazonのおすすめ、レビューサイトのランキング、AIによる回答。どれも一見すると、自分が能動的に情報を取りに行っているように見えます。
でも実際には、その手前で何らかの選別が行われている。
何が上に表示されるのか。
何が目に入りやすくなるのか。
何が「おすすめ」として提示されるのか。
何が見えにくくなるのか。
そこには必ず、媒体ごとの仕組みや設計思想がある。
本書が問題にしているのは、たぶんここです。
アルゴリズムは便利です。AIも便利です。情報収集も判断も、昔よりずっと速くなりました。けれど、その速さの中で、自分がどのような前提に乗って判断しているのかが見えにくくなっている。
つまり、私たちは「情報を見ている」と思っているけれど、実際には「選別された情報を見ている」。さらに言えば、その選別の仕組みを十分に理解しないまま、自分の判断材料として扱っている。
ここに本書の問題提起があるように思いました。
単に「ネット情報を疑え」とか、「AIの回答を鵜呑みにするな」という話ではありません。もちろんそれも大事ですが、本書の射程はもう少し深い。
問われているのは、情報の中身だけではなく、
その情報が、どのような仕組みを通って自分に届いたのか
ということです。
情報そのものと、情報が届くまでの過程を分けて考える。
これが、本書を読んで最初に強く残ったポイントでした。
2. アルゴリズムは「正しい答え」を返していない
本書を読んで特に印象に残ったのは、アルゴリズムは正しさや善悪を保証するものではない、という点です。
アルゴリズムは、あくまで決められた手順に従って、一貫した出力を返すものです。
一貫していることと、正しいことは違う。
安定していることと、中立であることも違う。
ここはかなり重要だと思いました。
たとえば検索結果やランキングを見ると、私たちはつい「上に出ているものほど重要なのだろう」「評価が高いものほど良いのだろう」と受け取ってしまいます。AIの回答にしても、整った文章で返ってくると、それだけで何となく信頼できるもののように見えてしまう。
でも、それは正しさそのものではありません。
そこにあるのは、入力に対して一定のルールや重みづけに従って返された出力です。その出力がどのような基準で作られているのか、何を優先し、何を捨てているのかを見ないまま受け取ると、自分では判断しているつもりでも、実際にはかなり危うい。
さらに鋭いと思ったのは、アルゴリズムには設計した側の思想や価値観が入り込むという指摘です。
もちろん、それは必ずしも悪意という意味ではありません。
ただ、どの情報を重く見るか。
どの行動を促すか。
何を成功とみなすか。
どの指標を最適化するか。
そこには必ず、何らかの目的や前提があります。
そして使用者は、その前提を意識しないまま、出力だけを受け取ってしまうことがある。
便利な道具を使っているつもりが、実はその道具を作った側の判断基準を、自分の判断の中に取り込んでいるかもしれない。
ここが本書のかなり怖いところだと感じました。
アルゴリズムは「答え」を返しているように見えます。
でも実際には、「ある設計思想に基づいて処理された結果」を返している。
その違いを意識できるかどうかで、情報との向き合い方はかなり変わると思います。
3. 判断しているつもりで、前提を外部に預けている
アルゴリズムやAIが便利なのは、判断までの距離を一気に縮めてくれるところです。
検索すれば候補が並ぶ。
おすすめを見れば選択肢が出てくる。
AIに聞けば、整理された回答が返ってくる。
これは本当に便利です。私自身も日常的に使っていますし、開発や調査の過程でもかなり助けられています。
ただ、その便利さの中で見えにくくなるものがあります。
それは、判断に至るまでの過程です。
本来なら、自分で調べて、比較して、違和感を持って、迷って、時には間違えながら判断に近づいていく。その過程の中で、自分なりの基準や勘所が育っていくはずです。
でも、アルゴリズムやAIは、その面倒な途中工程をかなり短縮してくれます。
もちろん、それ自体は悪いことではありません。
手順を省略できるからこそ、速く進める。
人間の時間や注意力には限りがあるので、すべてを自力で処理することも現実的ではありません。
ただし、ここで問題になるのは、
省略された過程の中に、自分が本来向き合うべき判断材料が含まれていなかったか
ということです。
速く答えに辿り着いたつもりでも、その答えに至る前提条件を自分で確認していない。
選択肢を比較したつもりでも、そもそも表示された選択肢がどのように選ばれたのか分かっていない。
自分で考えたつもりでも、実際には外部の仕組みが整えた道筋に沿っているだけかもしれない。
これは、自分が判断していないという意味ではありません。
ただ、判断の一部、特に前提を作る部分を外部に預けている可能性がある。
ここが怖いところだと思います。
判断そのものよりも、その手前にある「何を材料にするか」「何を比較対象にするか」「何を重要だとみなすか」が、すでに外部の仕組みによって整えられている。
その状態で出した結論は、どこまで自分の判断なのか。
本書を読みながら、私はそこをかなり考えさせられました。
便利さを否定する必要はない。
AIもアルゴリズムも使えばいい。
むしろ、使わずに現代社会を生きることの方が難しい。
でも、使うなら、自分がどの部分を任せていて、どの部分を自分で握っているのかは意識しておきたい。
判断を速くすることと、判断の前提を手放すことは違う。
この線引きを持てるかどうかが、これからかなり重要になっていくのだと思います。
4. 情報はそのまま届いていない
もう一つ強く感じたのは、情報はそのまま自分のところに届いているわけではない、ということです。
誰かが何かを考える。
それを言葉にする。
文章にする。
動画にする。
SNSに投稿する。
検索結果に載る。
アルゴリズムによって並び替えられる。
AIに要約される。
そして、自分がそれを読む。
この時点で、情報はすでに何段階も加工されています。
発信者の頭の中にあったものが、そのまま純粋な形で届いているわけではありません。考えを外に出す時点で、概念化や言語化が入ります。媒体に合わせた見せ方も入ります。受け手に伝わるように整理もされます。さらに、検索や推薦や要約の段階でも、何らかの選別が加わる。
だから、私たちが受け取っている情報は、現実そのものというより、いくつもの変換を通った後のものです。
もちろん、だから全部が嘘だという話ではありません。
言語や社会には、ある程度の共通認識があります。
バナナが急にゴリラになるような極端なズレは、普通は起こりません。
ただ、微妙なズレは普通に起こる。
そして実務では、この微妙なズレの方が怖い。
私自身の開発でも、似たようなことは何度もありました。
たとえば、ある指標を見て「EVを確認している」と思っていたけれど、よく見ると実際には、構造の収束らしさや価格の戻り方を見ていただけだった、ということがあります。
一見すると近い。
でも、全然違う。
構造が見えていることと、それを執行して利益が残ることは別です。
収束が観測されたことと、コストを引いた後の期待値がプラスであることも別です。
ここを曖昧にすると、「見たいものを見た」だけになってしまう。
本書の話も、そこにかなり近いものとして受け取りました。
(これは実体験として🛠️開発記録#524(2026/4/25)リードラグ研究DAY17 — EV表示の誤読をきっかけに、構造判定と取引候補を分け直した話という記事にまとめています。bot開発等に興味がある方はそちらも読んでみて下さい。タップすると私の別のブログにジャンプします)
情報を見ているつもりでも、本当に見ているのは何なのか。
AIの回答を読んでいるつもりでも、それはどの情報源を、どのように重みづけして、どう要約したものなのか。
検索結果を見ているつもりでも、なぜその順番で表示されているのか。
この確認を怠ると、判断の土台が少しずつズレていく。
大きな間違いなら気づきやすいです。
でも、言葉としてはそれっぽい。
指標としてもそれっぽい。
説明としても筋が通っているように見える。
そういうものほど危ない。
だから大事なのは、情報をそのまま信じることでも、全部を疑って拒絶することでもなく、
自分はいま何を見ているのか
を確認し続けることなのだと思います。
見ていると思っているものが、本当にその対象を測っているのか。
受け取った情報は、どんな過程を通ってここに来たのか。
自分の理解モデルは、現実にぶつけたときにどこまで残るのか。
この確認を積み重ねることでしか、自分の判断は少しずつマシにならない。
本書を読みながら、情報に向き合うというのは、単に多くの情報を集めることではなく、情報が届くまでの過程と、自分がそれをどう受け取っているのかを見ることなのだと感じました。
5. 避けることではなく、扱い方の問題
こういう話をすると、「ではSNSを見なければいいのではないか」「アルゴリズムから距離を取ればいいのではないか」と考えたくなります。
実際、私もSNSはほとんど見ていません。
その意味では、かなり距離を取っている側だと思います。
ただ、それで終わる話ではありません。
アルゴリズムを介した情報選別は、SNSだけにあるものではないからです。
検索エンジンで何かを調べる。
Amazonで本や商品を探す。
レビューサイトを見る。
動画サービスでおすすめを見る。
AIに質問して回答をもらう。
どれも、何らかの形で情報の選別や並び替えが入っています。
つまり、現代社会で情報に触れる以上、アルゴリズムと完全に無縁でいることはかなり難しい。
だから問題は、「避けるかどうか」ではなく、
どう扱うか
なのだと思います。
もちろん、距離を取ることには意味があります。
SNSを見ないことで、過剰な刺激や無駄な比較から離れられることはある。
自分の注意力を守るという意味でも、かなり有効な場面はあると思います。
ただ、それはあくまで一つの対処法です。
検索エンジンを使う。
AIを使う。
ECサイトを使う。
何かを調べ、選び、判断する。
そのたびに、私たちは何らかの媒体の設計やアルゴリズムの上に乗っています。
だから必要なのは、アルゴリズムを完全に避けることではなく、その媒体が何を得意とし、何を苦手とし、どのような偏りを持ちやすいのかを理解することです。
AIなら、もっともらしい整理は得意だけれど、検索の網羅性や情報源の偏りには注意が必要になる。
検索エンジンなら、幅広い情報にアクセスできる一方で、上位に出てくるものが必ずしも重要度や正確性の順番とは限らない。
レビューサイトなら、多数の評価を参考にできる一方で、その評価がどう集まり、どう表示されているのかを考える必要がある。
媒体ごとに、見え方の癖がある。
その癖を理解せずに使うと、情報を集めているつもりで、実際には媒体の都合に沿って視野を狭められている可能性があります。
だから私は、本書の問題提起を「アルゴリズムから逃げろ」という話ではなく、「アルゴリズムと同居するための姿勢を持て」という話として受け取りました。
便利なものは使えばいい。
ただし、何を任せているのかは忘れない。
速く判断できることと、正しく判断できることは同じではない。
情報が整理されていることと、その情報が十分であることも同じではない。
この違いを意識しながら使うしかないのだと思います。
6. 教育の話がかなり重要だった
本書の中で、教育に関する話も印象に残りました。
情報リテラシーというと、これまでは「情報の真偽を見極める力」や「発信元が信頼できるかを確認する力」として語られることが多かったと思います。
もちろん、それは今でも大事です。
ただ、現代の情報環境では、それだけでは足りない。
なぜなら、私たちが受け取っている情報は、発信者から直接届いているわけではないからです。
検索エンジン、SNS、ECサイト、レビューサイト、AI。
その途中には、情報を選び、並べ、強調し、見えにくくする仕組みがあります。
だから、情報そのものを見るだけではなく、
その情報が、どのような媒体や仕組みを通って自分に届いたのか
を見る必要がある。
ここを教育の中で扱うべきだ、という問題意識にはかなり納得しました。
「ネットの情報を鵜呑みにするな」という教育だけでは、少し粗い。
「SNSは危ないから気をつけよう」だけでも足りない。
必要なのは、媒体ごとの特性を理解することだと思います。
検索エンジンは何を上位に出しやすいのか。
SNSはどういう投稿を目立たせやすいのか。
Amazonのおすすめは何を基準に出てくるのか。
AIの回答は、どこまで調査で、どこから要約や推論なのか。
こういうことを、知識としてだけでなく、経験として学ぶ必要がある。
同じテーマを検索エンジンで調べた場合、SNSで調べた場合、AIに聞いた場合、専門書で読んだ場合。
それぞれで何が見え、何が見えなくなるのか。
この違いを体験するだけでも、情報との向き合い方はかなり変わるはずです。
情報発信と無縁に生きることは、もうかなり難しい時代です。
情報を受け取る側でいるだけでも、何らかの選別された環境の中にいます。
さらに、多くの人はSNSやブログや動画やレビューを通じて、自分自身も情報発信に関わっている。
だからこそ、発信者の責任だけでなく、受け手側の態度や知識も育てる必要がある。
自分が何を受け取っているのか。
それは誰が発信したものなのか。
どの媒体を通って届いたのか。
その過程で、何が強調され、何が落ちたのか。
ここに目を向ける力は、これからかなり重要になると思います。
本書で出てくる「メディア・インフラ・リテラシー」という考え方も、おそらくここに関わっているのだと思います。
単に情報の中身を読むだけではなく、その情報が流れてくるインフラまで含めて見る。
これは、現代における情報リテラシーの更新版と言ってもいいのかもしれません。
7. 自分の開発・AI利用との接続
この本がタイムリーだったのは、普段の自分の作業とかなり重なる部分があったからです。
私は普段から、AIをかなり使っています。
開発の相談もするし、調査も頼むし、考えの整理にも使う。ブログの構成を作るときにも使っています。
ただ、使えば使うほど、AIの出力をそのまま信じることの危うさも感じるようになりました。
たとえば、ChatGPTに検索や整理を頼んでも、指示の出し方によって網羅性はかなり変わります。
検索した結果をまとめてもらっても、それはネット上に出ている情報の集積であって、発信者の頭の中に直接アクセスしているわけではありません。
さらに、平均的な見方や整った説明に寄りやすいこともあります。
つまり、便利ではある。
でも、それは自分の代わりに現実を見てくれる装置ではない。
ここを勘違いすると危ない。
自分が何を調べさせているのか。
その回答はどの情報に基づいているのか。
どこからが事実で、どこからが推論なのか。
自分の判断をどの部分まで預けているのか。
この線引きを持たないまま使うと、AIはかなり強力な思考の外注先になってしまいます。
一方で、きちんと使えばかなり役に立つのも事実です。
自分の考えを整理する。
論点を分解する。
抜け漏れを確認する。
言葉になっていない違和感を仮置きする。
実装や設計の選択肢を並べる。
こういう用途では、かなり強い。
ただし、最後に判断するのは自分です。
特にbot開発では、ここを間違えると致命的です。
AIがもっともらしい説明を返してきても、実際に市場データで確認しなければ意味がありません。
指標名がそれっぽくても、その指標が本当に見たい対象を測っているとは限りません。
構造があるように見えても、執行コストを引いた後に利益が残るとは限りません。
だから私は、できるだけ観測と判断を分けようとしています。
何が見えているのか。
何がまだ見えていないのか。
どこからが仮説なのか。
どこからが実行してよい判断なのか。
この線引きを、なるべく明示する。
これは、本書の問題意識ともかなり近いと思いました。
アルゴリズムやAIを使うこと自体が悪いわけではない。
むしろ、使わない方が難しい時代になっている。
でも、使うなら、自分が何を任せていて、何を自分で握っているのかを意識しなければいけない。
便利さに乗るだけではなく、その便利さが何を省略しているのかを見る。
今回の読書は、自分が普段やっているAI利用やbot開発の姿勢を、もう一度点検する機会になりました。
8. まとめ
『アルゴリズム・AIを疑う』は、アルゴリズムやAIを否定するための本ではありませんでした。
むしろ、すでにそれらと同居している現代社会の中で、自分が何を見ていて、何を見ていないのかを考えるための本だったと思います。
アルゴリズムは、正しさを保証してくれるものではありません。
一貫した手順に従って出力を返すものであり、その手順には設計した側の思想や目的が入り込んでいる。
だからこそ、私たちは「便利な出力」を受け取るだけではなく、その出力がどのような前提で作られているのかにも目を向ける必要があります。
情報は、そのまま届いているわけではない。
発信者の認識、言語化、媒体、アルゴリズム、受け手の理解を通って、何段階も変形されている。
だから大事なのは、情報をただ疑うことではなく、
自分はいま何を見ているのか
それは本当に見たい対象なのか
どこまでが事実で、どこからが仮説なのか
を確認し続けることなのだと思います。
AIもアルゴリズムも、使えばいい。
ただし、何を任せていて、何を自分で握っているのかは忘れない。
今回の読書は、その線引きを考えるうえでかなりタイムリーでした。
便利さに乗るだけではなく、便利さが省略しているものを見る。
そのうえで、自分の判断をどこに残すのかを決める。
本書を読んで、情報に向き合うとは、単に多くの情報を集めることではなく、情報が自分に届くまでの仕組みと、自分自身の受け取り方を見つめることなのだと感じました。
本記事を読んで本書に興味を持たれた方は、ぜひ手に取ってみてください。
→『アルゴリズム・AIを疑う』をamazonでチェックする