人工知能（AI）は便利で強力な作業ツールであるが、批判的思考を伴わずに安易に使用すると、人間の能力が低下する可能性があるとの研究結果が発表された。
マイクロソフト（MS）と米カーネギーメロン大学が共同で実施した報告書「生成型AIの影響が批判的思考に与える影響：知識労働者調査における認知的努力と自信効果の減少」は、この結論に至った。この報告書は、4月26日から5月1日まで横浜で開催される世界的なコンピュータ科学学会「ACM CHI」で発表される予定だ。
米国のIT専門メディア「ギズモード」などによると、10日（現地時間）に公開されたこの報告書では、「業務中に生成型AIに依存する頻度が高まるほど、批判的思考が使われなくなり、これが認知能力の低下を招く可能性がある」との懸念が示された。
AI使用時と未使用時の違い
今回の研究は、データや情報処理業務に従事する319名の専門職労働者を対象に実施された。参加者は、業務で生成型AIを使用した936件の事例について回答した。
調査では、使用したAIツールや方法、AIによる作業遂行能力への信頼度、そしてAIの助けなしに同じ作業を完了できるかどうかについても尋ねられた。
参加者が業務で活用した事例には、ChatGPTを用いて「新たに診断された糖尿病患者のための教育資料」を検証した看護師や、AI画像生成ツールDALL-Eを利用して「学生に手洗いの必要性を説明する視聴覚資料」を作成した教師などが含まれている。
報告書によると、AIが作業を遂行できると確信している参加者ほど、自ら作業を行う頻度が減少したことが明らかになった。特に重要度が低い業務では、AIの結果を批判的に検討せず、そのまま受け入れる傾向が強かった。報告書は、「このような傾向が続くと、問題解決能力が低下する恐れがある」と警告している。
一方で、AIの提供する回答に対して確信が薄いユーザーは、批判的思考を活用し、AIの出力を評価・改善しながらより良い結果を得るよう努めていることが確認された。このプロセスは、独立した問題解決能力を維持するために、ポジティブな影響を与えると報告書は指摘している。
特に注目すべき点は、AIを使用した場合と使用しなかった場合の同一作業結果に差異が見られたことである。報告書は、「AIツールを使用した人々は、使用しなかった人々よりも同じ作業に対して得られた結果に多様性が乏しかった。AIが提供する回答を無批判に受け入れたことがその原因だ」と分析し、「批判的思考を活用する機会が減少することは、長期的に問題解決能力が弱まる可能性がある」と結論づけている。
ただし、調査結果に基づき、AIを無条件に排除すべきかという問いに対しては否定的な立場が示されている。報告書は、「AIツールは推論に関する説明を提供し、ユーザーが改善すべき点を提案するなど、ユーザーの学習を支援する機能を備えており、適切に使用することで批判的思考や技術の向上を図れる」とし、「業務パートナーとしても有効に活用できる」と述べている。
ChatGPTの提案「AI活用の際の批判的思考」
研究結果について、代表的な生成型AIであるChatGPTに意見を求めた。
ChatGPTは、「この研究はAIツールの使用に際して慎重なアプローチが必要であることを示唆している」とし、「AIは生産性や効率性を向上させる強力なツールであるが、批判的思考なしに盲目的に依存すると、逆に能力が低下する可能性がある」と評価した。
そのうえで、AIの利点を最大限に活用する方法を提案した。ChatGPTは、「AIが提供する回答をそのまま受け入れず、『これが最善の解決策か』を常に考え直すべきだ」と指摘し、「単純な反復作業にはAIを活用しても、戦略的な意思決定が必要な場面では、自ら考える習慣を維持することが望ましい」と述べた。また、「AIが提供する情報だけに依存せず、他の情報源を活用することで、批判的思考を促し、創造的なアプローチを保つことが重要だ」と勧めた。
さらに、AIを使用する人々に対して警告も発した。ChatGPTは、「AIを効果的に活用する人と、無批判に使用する人との格差は今後さらに広がるだろう」とし、「AIの提供する情報は能動的に検討し、必要に応じて修正する姿勢を維持することが重要だ」と強調した。