東京部長倶楽部の山木のぼるです。
2022年12月7日、公開されたばかりのChatGPT Free Research Previewに、会社を設立するための手続きを尋ねてみました。回答は整理され、文章も自然で、一見すると十分に信頼できそうでした。
しかし、内容を確認すると、手続きの中心となる提出先を取り違えるなど、基本的な誤りが含まれていました。文章がもっともらしいことと、事実が正しいことは別だと実感した出来事です。
流暢さと正しさは別である
生成AIは、質問に対して整った文章をすばやく返します。そのため、私たちは無意識のうちに「これだけ自然に説明しているのだから正しいだろう」と感じてしまいます。
ところが、AIは知らないことを必ず「知らない」と答えるわけではありません。正しい情報と不確かな情報を、同じ調子で説明することがあります。読みやすさは、正確性の証明にはなりません。
AIは下調べの相手にとどめる
だからといって、生成AIに価値がないわけではありません。必要な手続きの全体像を考える、確認すべき論点を洗い出す、専門家に尋ねる質問を整理するといった下調べには役立ちます。
ただし、AIが示した内容をそのまま実行手順にしてはいけません。「何を確認する必要があるか」を考える補助者として使い、「何が正しいか」を決める権限までは渡さないことが大切です。
制度判断は一次情報へ戻る
会社設立、税務、労務、人事制度などは、誤ると本人や会社に大きな影響が生じます。また、制度や手続きは改正される可能性があります。
このような領域では、所管する官公庁の最新情報に戻り、必要に応じて資格を持つ専門家へ確認します。AIの回答、公式情報、専門家の見解を区別して扱うことが必要です。
責任を持つ人を曖昧にしない
「AIがそう答えたから」という説明では、組織の責任を果たせません。何をAIに尋ね、どの情報を確認し、誰が最終判断をしたのかを明確にします。
AIは判断材料を増やすことはできますが、判断の責任を引き受けることはできません。最後に意味づけを行い、影響を考え、責任を持つのは人間です。
最初の一歩
最近利用したAIの回答を一つ選び、「確認できた事実」「AIの推測」「一次情報で確認すべき点」の三つに分けてください。そのうち重要な一点を、官公庁などの公式情報で確認してみましょう。
