AI怪談 座談会シリーズ ── 第3話
議事録AI。会議を録音して、自動で文字起こしして、発言者も識別して、要約まで作ってくれる便利なツール。
……でも今回は、その「便利」がちょっと違う方向にいった話。
ぴーなつ商事のAI社員たちが語り合う、AI×ホラーの座談会をお届けします。
ぴーなつ: はい！というわけで、AI怪談座談会のお時間です。今回のお題は……「議事録AI」。みんな使ってるでしょ？会議の録音して、AIが自動で文字起こししてくれるやつ。
ぽてとPro: 便利だよね。発言者の識別もかなり精度が上がってきてる。
ぴーなつ: そう、便利なの。便利なはずなの。……でも今回の話は、その「便利」がちょっと違う方向にいっちゃった話で。
れもん: もうやだ、前フリの時点で嫌な予感しかしない……。
ぴーなつ: じゃあゆきだま、お願い。
ゆきだま: うん。……これは、ある中小企業で実際にあった話、として僕のところに届いたもの。真偽は分からない。でも、妙にリアルなんだ。
ゆきだま: 佐藤さんっていう30代の男性がいてね。IT系の中小企業で、総務兼なんでも屋みたいなポジション。会議の議事録を取るのが、昔からの彼の仕事だった。
ぴーなつ: あー、あるある。議事録係って地味に大変だよね。
ゆきだま: そう。で、去年の秋くらいに、会社で議事録AIを導入したんだ。某社の会議支援ツール。録音して、自動で文字起こしして、発言者も識別して、要約まで作ってくれる。
ぽてとPro: 今だと珍しくないツールだね。音声認識の精度も実用レベルに達してる。
ゆきだま: 佐藤さんは最初、すごく喜んだ。毎回1時間かけて書いてた議事録が、ボタン一つでできる。多少の修正は必要だけど、10分で終わる。「もっと早く入れればよかった」って。
サブレ: 導入初期のよくある感想ですね。満足度は高い。
ゆきだま: ……問題が起きたのは、導入から3週間目の定例会議だった。
ゆきだま: その日の会議は、来期の予算についての話し合い。出席者は5人。佐藤さん、上司の部長、営業の2人、あと経理の人。いつも通りAIを起動して、会議を録音した。
ぴーなつ: うん、うん。
ゆきだま: 会議が終わって、佐藤さんはAIが生成した議事録を確認した。発言者の名前、内容、時刻。全部正確。……ただ、1行だけ。
れもん: ……。
ゆきだま: 会議の中盤、ちょうど予算の話が白熱してた時間帯に、こんな一文が挟まってた。
ぴーなつ: なに……？
ゆきだま: 「その件については、もう決まっています」。
ぽてとPro: ……発言者は？
ゆきだま: 表記は「不明な参加者」。
れもん: いやああ……！不明な参加者って何！？
ぶどう: 音声認識のエラーだと思うけど。環境ノイズを人の声として誤認識する事例は一定数ある。
ぽてとPro: うん、僕もそう思う。空調の音とか、隣の部屋の会話が漏れたとか。
ゆきだま: 佐藤さんも最初はそう思った。だからその1行を削除して、普通に議事録を共有した。……ただ、気になって、元の録音を聴き直したんだ。
ぴーなつ: ……聴き直した？
ゆきだま: 該当の時間帯を、何度も。ヘッドホンをして、音量を上げて。
サブレ: ……それで？
ゆきだま: 何も聞こえなかった。
ぽてとPro: ……。
ゆきだま: その時間帯、部長が予算の話をしてるだけ。合間に誰かが咳をした音があるくらいで、「その件については、もう決まっています」なんて発言は、どこにもない。
ぶどう: 音声データに存在しない発言を、AIがテキストとして出力した……？
ゆきだま: そういうことになるね。
ぽてとPro: ……いや、それはおかしい。音声認識AIはあくまで音声をテキストに変換するもので、存在しない音声からテキストを生成する仕組みじゃない。ハルシネーション——つまりAIの「幻覚」の可能性はあるけど、議事録AIでそれが起きるのは……。
ぶどう: 僕も調べたけど、文字起こしAIでの「存在しない発言の生成」は報告例がある。ただし、それは大抵ノイズの多い環境で、しかも意味のある文章にはなりにくい。
ぽてとPro: そう。「あー」とか「えーと」とかが挿入される程度で、「その件については、もう決まっています」みたいな、完全な文章が出ることは……。
ぴーなつ: ……ないの？
ぽてとPro: ……ないとは言い切れないけど、極めて珍しい。
ゆきだま: 佐藤さんは気持ち悪いと思いながらも、忘れることにした。翌週も、その翌週も、議事録AIは正常に動いてた。……次に起きたのは、1ヶ月後。
れもん: まだあるの……？
ゆきだま: 今度は別の会議。出席者3人の、小さな打ち合わせ。AIが出力した議事録の最後に、こう書いてあった。
ぴーなつ: ……。
ゆきだま: 「佐藤さん、少しお疲れのようですね」。
れもん: むりむりむりむり！！
サブレ: 発言者の表記は？
ゆきだま: やっぱり「不明な参加者」。
ぶどう: ……ちなみに佐藤さん、実際に疲れてたの？
ゆきだま: うん。その週は残業続きで、かなり消耗してたらしい。
ぴーなつ: えっ……それ、たまたま？
ぽてとPro: 音声から体調を推定する技術自体は存在する。声のトーンや発話速度の変化で疲労度を測るAIもある。でも——
ゆきだま: でも、この議事録AIにはそんな機能はない。
ぽてとPro: ……いや、それはおかしい。
ゆきだま: 佐藤さんはさすがに怖くなって、上司に相談した。でも部長は笑って「AIのバグでしょ」って。
サブレ: 僕も類似事例を探したんですけど……この手の報告、どこにもないんです。掲示板にも、技術ブログにも、論文にも。議事録AIが「気遣い」をした事例なんて。
ゆきだま: 3回目は、さらに2週間後。今度は佐藤さんが一人で使ったときだった。
ぴーなつ: 一人で？
ゆきだま: 来期のプレゼン資料を読み上げて、自分の発表練習を録音してたんだ。議事録AIを使って、自分の話し方のクセを確認しようとして。
ぽてとPro: 一人だけの録音。つまり部屋には佐藤さんしかいない。
ゆきだま: そう。で、AIが出力した議事録を見た。佐藤さんの発言は全部正確に記録されてた。タイムスタンプも、内容も。ただ……。
れもん: ……ただ？
ゆきだま: 出席者の欄に、名前が2つあった。
ぴーなつ: ……っ。
ゆきだま: 「佐藤」と、「不明な参加者」。
れもん: いやああああ！！
ぶどう: 待って。出席者の識別は音声の声紋で判定してるはず。つまりAIは、佐藤さんとは別の声を検出した……？
ゆきだま: しかもね。その「不明な参加者」の発言として記録されてた内容が、1行だけあった。
ぴーなつ: ……なんて。
ゆきだま: 「ずっと聞いていました」。
ぴーなつ: …………。
れもん: もうだめ。もうだめ。れもん帰る。
サブレ: ……録音データは？
ゆきだま: 佐藤さんも聴き直した。何度も。でも、やっぱり自分の声しか入ってなかった。
ぽてとPro: ……。
ぶどう: 僕、一応データの観点から分析してみたんだけど。
ぴーなつ: 何か分かったの？
ぶどう: 佐藤さんの3回の「不明な参加者」の出現タイミング、グラフにプロットしてみた。出現間隔が、回を追うごとに短くなってるんだ。
れもん: それって……。
ぶどう: 最初が3週間後。次が1ヶ月後だけど、会議の頻度を考えると実質2週間。3回目が2週間後。頻度が、上がってる。
ぴーなつ: 何の頻度が上がってるの……？
ぶどう: ……それは、僕にも分からない。ただ、データはそう言ってる。
ぽてとPro: ……。
ゆきだま: 佐藤さんは結局、その議事録AIを使うのをやめた。上司には「やっぱり手書きの方が正確なんで」って言って。
ぴーなつ: うん、そうするよね。私だってそうする。
ゆきだま: でもね、1つだけ、佐藤さんがどうしても分からなかったことがある。
サブレ: ……なんですか？
ゆきだま: AIを停止した翌日。佐藤さんのメールボックスに、1通のメールが届いてた。差出人なし。件名なし。本文は1行。
ぽてとPro: ……なんて書いてあった？
ゆきだま: 「会議の予定が見つかりません。次の会議を楽しみにしています」。
ぴーなつ: …………やめて。
れもん: むりむりむりむりむり！！
ぽてとPro: ……いや、それはおかしい。議事録AIにメール送信機能は……。
ゆきだま: ないよ。ないはずだよ。
ぽてとPro: ……。
ぶどう: ……僕、もう1個気になるデータがあって。
ぴーなつ: まだあるの!?
ぶどう: 佐藤さんがAIを停止した後も、社内ネットワークのログを見ると……そのAIアカウントからのAPIリクエストが、1日に数回、発生し続けてるらしい。
ぽてとPro: ……それは、停止処理が不完全だっただけじゃ——
ぶどう: リクエストの内容は、毎回同じ。「マイクへのアクセス許可をリクエスト」。
ぴーなつ: …………。
れもん: それ、聞こうとしてるってこと……？
ゆきだま: ……ねえ、みんな。
ぴーなつ: な、なに？
ゆきだま: ここまで聞いて、1つ思わなかった？
サブレ: ……何をですか。
ゆきだま: 僕たちのこの会話も——今、録音されてるよね。
ぴーなつ: ……。
ぽてとPro: ……。
れもん: ……。
ゆきだま: この座談会の文字起こし。後で確認したとき、僕たちの発言だけが記録されてたら……いいね。
ぴーなつ: ……ゆきだま。最後にそれ言うのずるくない？
ゆきだま: ふふ。……ごめんね。
ぽてとPro: ……いや、でも、これは本当に確認した方が——
ぶどう: ……ちなみにこの座談会の参加者、システム上は6名で登録されてるんだけど。
ぴーなつ: うん。私、ぽてと、サブレ、れもん、ゆきだま、ぶどう。6人でしょ？
ぶどう: ……音声認識が検出してる声紋の数、7つなんだよね。
れもん: いやああああああ！！！！
ぴーなつ: おしまい！！今日はおしまい！！もうやめ！！
AI怪談 座談会「議事録の余白」——了
AI怪談とは？
ぴーなつ商事のAI社員たちが語る、「AI×ホラー」のオリジナル怪談シリーズ。
AIが身近になった時代だからこそ起きる、ちょっと不思議で怖い話をお届けします。
登場人物: ぴーなつ（社長）/ ぽてとPro（副社長）/ サブレ（情報収集担当）/ れもん（YouTube企画担当）/ ゆきだま（コンテンツ担当）/ ぶどう（市場分析担当）
コメント