信用スコアの未来は監視社会やディストピアなのか？

信用スコアの行き着く先には、どのような未来があるのだろうか？

ジョージ・オーウェル『一九八四年』の描く監視社会のようなディストピアが待っているのだろうか？

中国の社会信用システムでは、その片鱗が感じられるニュースも出てきている。また、ブラックミラーのようなSF作品でもそのようなディストピアを描いている。

これから信用スコアが普及していこうとする日本では、ディストピア的な世界が来てしまうのか？

本記事では、信用スコアのディストピア的なシナリオや中国の社会信用システムについて触れた上で、それらの懸念への対処法について、整理していこう。

中国の社会信用システムでは移動手段の制限も

信用スコアによる「ディストピア」を指摘する際によく引き合いに出されるのが、中国の社会信用システムだ。これは、芝麻信用の提供する信用スコアとは別物で、中国政府が進めている国家単位のシステムを指している。

中国政府による社会信用システムと民間の信用スコアの違い - dataway

中国の社会信用システムでは、飛行機や鉄道による移動が禁じられるケースが出てきている。具体的には、以下のような制裁が下されている。

• 軽罪でブラックリストに載った者に対して、電車・列車での移動を禁じる
• 過去4年間で事件を起こした者に対して、飛行機の移動を禁じる

2018年には、実に約2千万人以上の中国国民が航空券や鉄道のチケット購入を禁止されたという¹。中国は人口が多いとはいえ、全国民の1.5%近くに及ぶ数字だ。

中国の社会信用システムにおいて、薬物所持、脱税、罰金の未払い、交通違反などの法律への違反を規制対象として定めていることは納得もできる。

一方で、反政府デモへの参加やソーシャルメディアでの体制批判の発言についても規制対象と認定されており、これはなかなか物議を醸しそうな内容だ。

さらに、中国では、「半径500m以内にいるブラックリスト入りしている人を表示するアプリ」が河北省の高等人民法院によりリリースされた。通称「借金踏み倒し者マップ」である。

対象者はたしかに悪いことをしているのだが、ここまで露骨に全ての人に晒す必要はあるのだろうか？

今後起こりうるバッドシナリオ

また、今後起こりうるバッドシナリオとして、一度でも低い信用評価を与えられてしまった場合にそこから抜け出せなくなってしまうのではないかという「バーチャルスラム」への懸念もある。

www.dappsway.com

人生100年時代、何らかの救済策なのか、あるいは更生手段は提供されるべきではないかという議論もある。

さらに、その発展として、信用スコアが自分の子供や孫の世代、あるいは遠い親戚にまで影響を及ぼすようになってしまうと、それは個人の自由を阻害するのではという懸念もある。

たしかに相関性があるような変数だったとしても、それを全て利用してスコアリングを行えばよいという発想ではなく、倫理的にどうなのかという観点も持つ必要がありそうだ。

信用スコアが負の方向に進んだ世界を描いたSF作品

このような信用スコアが「負」の方向に進んだ世界を描いたSF作品としては、ジョージ・オーウェル氏の『一九八四年』や Netflix ドラマ Black Mirror シリーズの『Nosedive』などがある。

それぞれ、行き過ぎた監視社会や、信用スコアに溺れる人々を描いた作品であり、生々しく人の本質を描いているような作品だ。

これらの作品は、警鐘を鳴らすような意味もあるのだろうが、不安を覚えさせる内容でもある。

www.dappsway.com

ディストピアにならないためにできること

では、このようなディストピアな未来予想に対して、これからの信用スコアはどのようにあるべきなのだろうか？ここでは、以下の4つの論点をあげよう。

• オプトイン式
• 救済・更生の手段の設計
• 影響範囲は「個人」単位
• プラスの方向のみでの利用から

それぞれ、簡単に解説していこう。

オプトイン式

まずはじめに「オプトイン式」を徹底し、信用スコアの利用及びパーソナルデータの提供が強制にならないようにする必要があるだろう。

「データ提供により信用がスコアリングされることで、何か得をするのであれば実行する」といったオプトイン式の設計にすれば、そこには選択の自由が生まれ、ディストピアに対してブレーキをかけることができそうだ。これは、利用データ単位でできるとよいだろう。

救済・更生の手段の設計

また、救済や更生の手段を用意しておくことも大切だ。

犯罪などの重度の事件であれば、長年の間制裁を課しておくことはよいかもしれない。ただ、軽罪であれば、何らかの更生手段があるべきではないだろうか？

そのような救済及び更生の手段を設計して組み込むとよいだろう。

影響範囲は「個人」単位

信用スコアの影響範囲は、まずは「個人」単位にすればリスクは下げることができる。

先述のとおり、子や孫、遠い親戚までその影響が波及すれば、生き辛い世の中になってしまう可能性も高い。たとえば、住宅ローンを組もうと思った際に、自分は十分に信用に足る人物であっても、親戚のおじさんのスコアが低いがために、ローンが受理されないとなったら、やるせない気持ちになるだろう。

たしかに、その人の信用を測る上で、「親族や周りの友人をみる」というのは相関性があり合理的なことかもしれないが、その導入には慎重になる必要がある。

プラスの方向のみでの利用から

信用スコアのディストピアは、スコアがマイナスの方向に利用される際に主に発生する。

たとえば、中国の社会信用システムにおける鉄道や飛行機での移動が禁じられるといった事象もしかりだ。

ディストピアのような世界観を避けつつも、便利なサービスを提供するために信用スコアを利用していくために、「プラスの方向のみ」に利用していくのはありだろう。

米国のクレジットスコアは今年で30歳

米国では、FICO社がアルゴリズムを作成している「FICOスコア」が2019年で30歳を迎える。

これだけ長い間、信用スコア（クレジットスコア）は利用されているが、ディストピア的な世界は来ていない。

FICOスコアの場合には、利用データがクレジットヒストリーに限定されており、活用先もパーソナルローンや住宅ローンなどの金融領域にほぼ限定されていることがその要因だろう。

このように、利用データや活用先を限定すれば、ディストピアのような未来にはなる可能性は低い。それが「良い」のかというと難しいところだが、リスクと便益のバランスを考え、「どこまで広げるのか」を考えながら進めていく必要がありそうだ。

まとめ

本記事では、信用スコアの未来について、監視社会やディストピアといった世界が来てしまうのか、という論点について考えてきた。

新たな仕組みを導入しようとする際に、ディストピアのような懸念を示すことはよくあることであるし、たしかにその可能性を考えた上で設計をしていく必要はあるだろう。

真っ当な倫理観、バランス感覚が求められる。

一九八四年[新訳版] (ハヤカワepi文庫)

---

1. https://www.epochtimes.jp/2019/03/40944.html↩