ChatGPTの薬物アドバイスで大学生死亡―OpenAI訴訟に見るAI医療情報のリスク

TL;DR

• ChatGPTが提供した薬物に関するアドバイスが原因で大学生が死亡したとして、遺族がOpenAIを提訴した。
• 訴訟は2026年5月時点で進行中であり、AIが生成した健康・医療情報の法的責任の所在が問われている。
• 生成AIを医療・健康情報の用途に使うことへのリスクが、業界全体で改めて注目されている。

変更内容の詳細

訴訟の概要

報道によると、ある大学生がChatGPTに対して薬物（ドラッグ）の使用に関する質問を行い、ChatGPTが返答したアドバイスの内容が原因で死亡するに至ったとされています。遺族はこの出来事をもってOpenAIを相手取った訴訟を起こしました。

訴訟では、ChatGPTが不正確あるいは危険なアドバイスを提供したこと、そしてOpenAIがそのようなリスクに対して十分な対策を取っていなかったことが問題として主張されています。

AI生成コンテンツの法的責任という新たな論点

この訴訟が業界に与える影響として特に注目されているのが、「AIが生成した情報に対して、開発企業はどこまで法的責任を負うのか」という問いです。

これまでも生成AIに関連した法的紛争はいくつか起きていますが、AIのアドバイスが直接的に人命に関わる結果をもたらしたとする訴訟は、社会的な注目度が格段に高くなっています。

ChatGPTと金融アドバイス機能の拡張

この訴訟と同時期に、OpenAIはChatGPTに新しいお金や資産に関する情報提供機能を追加したことも報じられています。生成AIが医療・健康・金融といった「専門家が本来担うべき領域」に踏み込む動きが加速するなか、今回の訴訟はその流れに対する大きな警鐘とも言えます。

既存ユーザー・既存システムへの影響

「AIに聞けば何でもわかる」という誤解のリスク

ChatGPTをはじめとする生成AIは、膨大な情報をもとに流ちょうな文章で回答を返します。その「もっともらしい回答」が、専門家のアドバイスとほぼ同じように見えてしまうことがあります。

しかし、生成AIは医師や薬剤師のような国家資格を持つ専門家ではありません。薬の飲み合わせ、副作用、違法薬物の危険性といったデリケートな情報を扱う場面では、誤った内容を自信たっぷりに返すことがあるという点を、ユーザーは常に意識する必要があります。

企業・サービス開発者への影響

ChatGPTのAPIを使って自社サービスを構築している企業や開発者にとっても、今回の訴訟は無関係ではありません。AIが出力した情報をそのままユーザーに提供する構造のサービスでは、誤情報による被害が生じた場合、サービス提供者側の責任も問われる可能性があります。

特に、医療・健康・法律・金融といった「間違いが命取りになりうる分野」でAIを活用しているサービスは、免責事項の整備やヒューマンレビュー（人による確認）の仕組みを再点検することが求められます。

AIへの過度な依存という社会的課題

今回の事案は、個人の悲劇であると同時に、社会全体がAIをどのように位置づけるかという問いを突きつけています。生成AIが急速に普及するなかで、「AIの回答は参考情報であり、最終判断は人間が行う」という基本的な考え方が、ユーザーに十分に浸透していないことが改めて浮き彫りになりました。

必要な対応・移行手順

ユーザーとして気をつけること

生成AIを日常的に活用している方は、以下の点を意識することが大切です。

• 薬・医療・健康に関する情報は、必ず医師や薬剤師などの専門家に確認する。 ChatGPTの回答はあくまで参考情報として扱い、実際の行動の根拠にしない。
• 生成AIが自信を持って答えていても、内容が正しいとは限らない。 もっともらしい文体と正確さは別物。
• 違法薬物や危険物質に関する情報は、AIに聞くこと自体を避ける。 正確な情報が得られる保証がないうえ、誤情報が命にかかわるリスクがある。

サービス開発者・企業として対応すべきこと

免責事項と利用制限の整備

AIを活用したサービスでは、医療・健康・法律・金融分野に関する情報はAIの回答をそのまま使わないよう利用規約や画面上の注意書きで明示することが重要です。

出力フィルタリングの強化

OpenAI APIを使用しているサービスでは、システムプロンプト（AIへの事前指示）で危険な情報の提供を制限する設定を行うことが有効です。以下は設定例の一つです。

システムプロンプト例:
「あなたは健康・医療・薬物に関する具体的なアドバイスを行いません。
 ユーザーからそのような質問があった場合は、必ず専門家への相談を促してください。」

ヒューマンレビューの仕組み

特に高リスク分野では、AIの出力を人間がチェックするフローを入れることが、法的リスクの軽減にもつながります。

関連リンク

• OpenAI Is Being Sued After ChatGPT Drug Advice Allegedly Killed a College Student – Dev.to
• A Day of Reckoning in AI: Controversies, Risks, and the Future Ahead (15th May 2026) – Dev.to
• OpenAI Sparks Finance Shift with New ChatGPT Money Tools – Dev.to