サイト内
ウェブ

ハラスメントの辛い思いをAI技術で救いたい/All Turtlesフィル・リービン[中編]

  • 2018年5月17日
  • ライフハッカー[日本版]

AI(人工知能)関連の製品開発を支援する米All Turtles社のフィル・リービン氏インタビュー。前回は、新会社設立のきっかけやリービン流チームビルディングを聞いた。今回は、リービン氏とともにAI技術の最前線を紐解いてみよう。

AI技術でハラスメント対策

All Turtlesでは「スタジオ・カンパニー」と呼ばれる複数のチームがAI関連の製品を開発しているが、なかでも興味深いのは「spot」と呼ばれるハラスメント対策ツール。

ハラスメントを受けたと感じた人が、AI技術を使ったボットとの会話を通して、出来事の記録を取っておくことができるというもの。自分でメモを取っておくのと比べ、より正確な記録を残すことができるのだそう。犯罪心理学と記憶を専門とするジュリア・ショー(Julia Shaw)博士が開発チームを率いています。

使い方は簡単。ユーザーはspotのサイトにアクセスし、チャット形式でボットの質問に答えていきます。一連の質問は「認知面接」と呼ばれる技法——警察が事件の目撃者などから正確に事実を聞き出す時に使われている方法——で作られており、ボットとのチャットで記憶が曖昧な部分が整理されていき、科学的な方法で記録を残せるというものです。

インタビューが終わると、登録したメールアドレス宛に作成日時入りのレポート(PDF形式)をダウンロードできるリンクが送られてきます。ユーザーはそれをどう使おうと自由。すぐに会社の人事部などに問題を報告することもできるし、時期が来るまで保存しておくこともできる。spotから職場宛に、匿名の報告書を送る選択肢も用意されています。

ボットの方が抵抗なく話しやすい

——ハラスメント対策になぜAIが有効なのでしょうか?

「ひとつには、人間と話さなくてよいということです。研究者たちによると、人は嫌なことを話さなれればならない時、他の人間に向かってよりも機械と話す方が抵抗は少ないそうです。

相手になんて思われるだろう、なんて考えなくてもいい。そして誘導的な質問で記憶がぼかされることもない。そもそも不快な経験を人に話すのは気持ちのいいものではないですから。

匿名性を保てるのも利点

もうひとつの利点は、ユーザーが匿名で被害レポートを提出できるということです。#MeTooの運動が盛り上がっているとはいえ、発言している人たちは実際の被害者のごく一部でしょう。人事部や警察などに届け出るのを今も躊躇している人は大勢いるはずです。告発のハードルを下げて、ハラスメントについての対話を促せればと思っています。

ハラスメントや差別だとはっきり分かることなら、嫌だと言えるかもしれない。でも、判然としない微妙な言動なら不快でも我慢してしまうことだってあるでしょう。記録を取っておけば対話のきっかけに使うことができます。

現在はまだ英語版だけですが、いずれ日本語版やドイツ語版など、世界に広めていきたいと思っています。でも、これは単に質問を翻訳すればいいという問題ではありません。文化的背景を考慮しなければならないので、それぞれの国で現地の専門家の力を借りる必要があるでしょう」(リービン氏)

AIとジェンダーバイアスの問題

ますます活用が広がるAI技術だが、ひとつ気になる研究も。それは性別や人種などに関する人々の無意識のバイアス(例:男性=医師、女性=看護師)を人工知能が学習してしまうということ。それが製品やサービスに反映されることでさらにバイアスを推進、ある特定の人々に不利に働いてしまう場合があるといいます。

コンピュータに大量のデータを入力し、そこに潜むパターンを学習させる機械学習の問題点として指摘されています。AIが医療や保険、金融サービスにも導入されることを考えると見過ごせないこの点についてリービン氏に尋ねてみました。

ジェンダー・バイアスは言語に根ざしている

——このバイアスの問題は、シリコンバレーの開発者の間でどの程度認識されているのでしょうか?

「ここ1、2年で重要な研究が発表され、徐々に認識が広がっている段階です。今までのプログラミングと違い、AIはブラックボックスになっている部分があります。

(プログラマーが書いた)コンピュータプログラムは、料理のレシピのように段階を追って見ることができます。けれども多くのAI技術では、機械が大量のデータを学習して自ら判断を下すようになるため、どこで問題が起きたのかを突きとめにくいのです。

ジェンダーバイアスの多くは言語に根差しています。言葉に入り込んでいる無意識の差別が機械に受け継がれる前に手を打たなければなりません。

専門家でないので分かりませんが、言語によってバイアスの形も違うかもしれませんね。もしかしたら、女性形・男性形の区分があるヨーロッパ言語に比べ、日本語の方がバイアスが少ないということだってあるかもしれません。

いずれにせよ、とても興味深い研究分野なので、我々も専門家たちと共に考えていきたいと思っています。技術が育ってきた今だからこそ対策を取れる絶好の機会ですし、遅きに失する前に手を打つべき重要な問題だと捉えています」(リービン氏)

次回は、起業家として戦っていくためリービン氏が実践している健康管理術を紹介。

ぼくがEvernoteをやめて新会社を立ち上げたワケ/All Turtlesフィル・リービン[前編]

カフェグローブより転載(2018.05.08公開記事)

フィル・リービン(Phil Libin)さん/All Turtlesファウンダー・CEO90年代より米国で複数の事業を立ち上げてきた連続起業家。2007年にドキュメント管理クラウドサービスを提供するEvernoteを創業しCEOに就任。2015年に同社のCEOを退任後、米ベンチャーキャピタルのゼネラル・カタリスト・パートナーズに参加。2017年5月、AI(人工知能)関連の製品開発を支援する新会社All Turtlesを設立。

キーワードからさがす

gooIDで新規登録・ログイン

ログインして問題を解くと自然保護ポイントが
たまって環境に貢献できます。

掲載情報の著作権は提供元企業等に帰属します。
copyright 2018 (C) mediagene, Inc. All Rights Reserved.