AIが「そのままではできません」と言うとき — できない理由を分け、代わりに測るものを探す(1)
AIやデータの担当者がそのままではできないと答えると、多くの場合プロジェクトはそこで止まります。しかしその答えは終わりではなく、問題を定義し直す出発点になりえます。できない理由をデータ・規定・精度の3つに分ける方法と、直接測れないものを連動する値で測る代理指標の使い方を、OpenAIの判別ツール提供終了、ソウル市の深夜バス、電力データによる見守り、衛星画像による貧困地図の事例で整理しました。
「そのままではできません」は拒絶ではなく、問いの置き方が間違っているというサインであることが多いものです。 その答えの次に何を問うかが、プロジェクトの行方を決めます。
会議室が静かになる瞬間
AI導入の会議で、プロジェクトが最もよく止まる場面があります。担当者がこう言うときです。「今のデータではできません」「その精度は出せません」。最近はAI自身がそう答えることもあります。指示した作業に取りかかる前に「この方法では望む結果は得られません」と先に言うこともあります。
この瞬間、会議室は二手に分かれます。一方は「では、やめましょう」で終わり、もう一方は「では、できるようにしてください」と押し切ります。どちらも惜しい選択です。前者は解けたはずの問題を捨て、後者はできているふりをする成果物を生み出します。
私たちがお勧めするのは3つ目の道です。「できない」という答えを受けたら、何ができないのかを分解し、その場所に解ける問いを置き直すことです。今回はその最初の2歩、理由を分ける方法と、代わりに測る値を探す方法を扱います。
原則1. 「できない」を3つに分けてください
「できない」はひとかたまりに聞こえますが、理由はたいてい3つのうちのどれかです。
- データがその精度を含んでいない。解像度・頻度・量が足りないケースです。1ピクセルが10mの無料衛星画像で人の大きさの物体を探してほしいという依頼がこれに当たります。
- やってよいかどうかが問題だ。法律・倫理・セキュリティの理由で、つくることはできても出してはいけないケースです。
- できるにはできるが、業務基準に届かない。精度が、人が信頼して使える水準ではないケースです。
3つ目のタイプの代表例が、OpenAIのAI作成文の判別ツールです。OpenAIは2023年1月、人が書いた文章とAIが書いた文章を見分ける分類器を公開した際、このツールはAIが書いた文章の26%しか「AIが書いた可能性が高い」と正しく判定できず、人が書いた文章の9%をAIが書いたものと誤って判定すると自ら明らかにしました。そして同年7月20日、精度の低さを理由に提供を終了し、文章の出どころを確認するより効果的な方法を研究すると付け加えました。「書き終えた文章を見て判別する」という問いから、「つくる時点から出どころを残す」という問いへ移ったのです。


理由を分けておけば、対応も分かれます。1つ目のタイプは代わりに測るものを探し、2つ目のタイプは範囲を絞り、3つ目のタイプは人が確認する工程を入れるか問いを変えます。最後までできないこともあります。その判断基準はAIでは解けない仕事で別に整理しました。
原則2. 直接測れないなら、一緒に動くものを測ってください
データがないという答えの多くは、「その値を直接記録したデータがない」という意味です。そんなときは、その値と連動して動き、すでにどこかに蓄積されている値を探せばよいのです。これを代理指標と呼びます。
ソウル市の深夜バス。2013年にソウル市が深夜バスの路線を決めたとき、手元のデータには「深夜0時以降に誰がどこからどこへ行こうとしているか」を直接記録したものはありませんでした。ソウル市は代わりに、通信大手KTが提供した深夜0時から午前5時までの携帯電話の通話量30億件を分析し(韓国語)、深夜に人が集まる場所を突き止めて路線を決めました。移動需要を直接測る代わりに、その時間に人がいる痕跡を測ったのです。
電力データによる見守り。一人暮らしの高齢者の安否を確認するには、通常はリストバンドやセンサーを取り付ける必要があります。SKテレコムと韓国電力公社が共同開発した一人暮らし世帯の見守りサービスは、家庭の電力使用パターンをAIで分析し、通話・メッセージ・データ通信の利用有無と組み合わせて(韓国語)、普段と違う異変の兆候があれば福祉担当者に知らせます。別の機器を取り付ける必要がないので運用コストが低く、利用者が生活スタイルを変える必要もありません。生活そのものを測る代わりに、生活が残す電力使用の痕跡を見るのです。
衛星画像で描いた貧困地図。海外にも同じ方法があります。2016年にスタンフォード大学の研究チームがScienceに発表した研究は、アフリカでは貧困調査そのものが少ないという問題から出発しました。論文によると、2000〜2010年にアフリカ59か国のうち39か国が、全国規模の貧困調査を2回も実施できていませんでした。研究チームはまず、昼間の衛星画像から夜間の光の明るさを当てるようにニューラルネットワークを学習させて道路・屋根・農地などの特徴を覚えさせ、その特徴から村単位の消費水準と資産を推定しました。公開データだけで、ナイジェリアやタンザニアなど5か国の地域経済指標の変動の最大75%を説明しました。
3つの事例はいずれも同じ問いを投げかけました。「知りたいことが起きるとき、すでにどこかに記録される別の値は何か」。
| 事例 | 知りたいこと | 代わりに測った値 |
|---|---|---|
| ソウル市の深夜バス(2013) | 深夜0時以降に誰がどこからどこへ行こうとしているか | 深夜0時から午前5時までの携帯電話の通話量30億件 |
| 一人暮らし世帯の見守り | 一人暮らしの高齢者の生活に異変がないか | 家庭の電力使用パターンと、通話・メッセージ・データ通信の利用有無 |
| 衛星による貧困地図(2016) | 村単位の消費水準と資産 | 夜間の光の明るさを当てるよう学習した昼間の衛星画像の特徴 |
自社で代理指標を探す
社内でも同じように問うことができます。顧客満足度を直接測れないなら再注文の間隔や問い合わせの内容を、設備の状態を直接見られないなら電力使用量や騒音を見ます。入退室記録、配送照会の記録、見積依頼のメールのように、もともと別の目的で蓄積していた値が思わぬ答えになることはよくあります。
よい代理指標かどうかを見分ける基準は一つです。もともと知りたいこととどのような経路でつながるのかを、一文で説明できなければなりません。「深夜に通話が多い場所には、その時間に人がいる」のように経路がはっきりしていれば使えますが、「なんとなく一緒に動いている気がする」にとどまるなら危険です。そうした値が自社のどこに蓄積されているかは、自社のデータはAIに使える状態かのチェック表で探せます。
まとめ
「そのままではできません」という答えは、たいてい正直な答えです。その正直さをプロジェクトの中止として受け取るか、問題を置き直す出発点として受け取るかは、聞く側が決めることです。
まず、できない理由をデータ・規定・精度に分け、直接測れないものは連動して動く値で測ってください。この2歩だけでも、止まったプロジェクトの多くが再び動き出します。
次回はもう一歩進んで、問いそのものを変える方法と、変えた問いが元の目的からどれだけ離れたかを測る方法を扱います。
連載「AIが『そのままではできません』と言うとき」
- できない理由を分け、代わりに測るものを探す(本稿)
- 問いを変え、離れた距離を測る
参考資料
- OpenAI, New AI classifier for indicating AI-written text(2023、2023年7月にサービス終了の告知を追記)
- 서울시 미디어허브, 서울 올빼미버스 관련 보도(ソウル市メディアハブ、ソウルの深夜バス「フクロウバス」に関する報道)(2018)
- 아이뉴스24, SKT 1인 가구 안부 살핌 서비스(iNews24、SKTの一人暮らし世帯見守りサービス)(2021)
- Jean et al., Combining satellite imagery and machine learning to predict poverty, Science (2016)