エリザベス・アダムス氏は25年以上IT業界でキャリアを積んできましたが、ここ数年になって、アダムス氏といえばある喫緊の課題を指すようになりました。それはAIの倫理です。 ジェンダー平等とインクルージョンの支持者であるアダムス氏は現在、講演者やコンサルタントとして、AI製品の開発ライフサイクル全体から差別や偏見を排除する取り組みを推進しています。 アダムス氏の「Leadership of Responsible AI（責任あるAI開発のリーダーシップ）」プログラムは、経営者がこうしたコンセプトを実行に移せるよう支援することを目的としています。
AIバイアスは実際に存在します。 学習データに、性別や人種、民族などに関する多様性がないためです。
アダムス氏の取り組みは、正念場を迎えています。 Gartnerは、2018年から今年にかけて立ち上げられたAIプロジェクトの85%は、データやアルゴリズム、あるいはそれらを管理するチームのバイアスによって、結果に誤りが生じることになると予測しています。 先日、ミネアポリスを拠点として活動するアダムス氏から、こうした問題に関するお話を伺いました。アルゴリズムに潜むバイアスをなくすうえでの複雑な問題について、企業に対するアドバイスも伺っています。
大抵の場合、AIにおけるバイアスは、AIチャットボットが暴走してユーザーを侮辱するといった、面白おかしい三面記事的な話題としてメディアに登場します。 実際のところ、この問題はどの程度深刻なのでしょうか。
AIバイアスは実際に存在します。 学習データに、性別や人種、民族などに関する多様性がないためです。 雇用、住宅ローンの貸付、住宅の取得、保険などで大きな問題が起きています。 AIアルゴリズムが、最前線で働く医療従事者よりも企業経営者に新型コロナウイルス感染症の予防接種を優先させたという話や、あるコミュニティ（通常は特権階級）が他よりも多くの予防接種を受けることを選択しているという例もあります。 どこでも起きていることなのです。 この問題に対処するには、さまざまな分野やシステムにわたって、総力を挙げて問題を究明する必要があります。
水面下ではさまざまな問題が生じているようですね。 どのような経緯で取り組みを始められたのですか。
ミネアポリス市では、市民として、また市の人種公正地域諮問委員会の被任命者として、3年間地域社会活動に打ち込んできました。 その後、監視テクノロジーによる市民の監視に取り組む団体の設立に協力しました。 この団体は、市に対して顔認証技術の禁止を要求し、市議会は最終的に禁止を実現しました。 これは草の根運動でした。 そのため、基本的人権であるはずの「安全な技術」を求めただけなのに、ボランティアは家族と過ごす時間を削られてしまいました。 これまで、こうしたバイアスによって被害を受けてきたのは、予算がつくこともなくあらゆる仕事を担ってきた人たちです。 この問題は、政府や企業経営者という、もっと上流に焦点を当てるべきなのです。
では、こうした問題を解決するにはどうすればいいのでしょうか。
国連では、AI倫理ガイドラインを制定しています。 米国国立標準技術研究所（NIST）は、顔認証システムを開発する全企業が参加すべき「顔認証技術精度評価テスト」を実施しています。 Montreal AI Ethics Instituteのような非営利団体は、組織がAIの人種的偏見を定義、数値化、解消するうえで役立つ倫理プレイブックを用意しています。 マイクロソフトなどの企業は、責任あるAIチームの構築に取り組んでいます。 これらの企業・団体はすべて、AIのライフサイクルを解明し、アルゴリズムによる悪影響を解消あるいは排除する最善策を見出そうとしているのです。
私が企業に対してAIバイアスに関するアドバイスを行う際には、その企業が解決しようとしているビジネス上の問題を把握したうえで、その問題への対処にそもそもAIが必要なのかと尋ねるようにしています。
プレイブックやガイドラインだけで十分なのでしょうか。
スタート地点ではあります。 私が企業に対してAIバイアスに関するアドバイスを行う際には、その企業が解決しようとしているビジネス上の問題を把握したうえで、その問題への対処にそもそもAIが必要なのかと尋ねるようにしています。 AIが利用できる可能性があるからといって、必ずしも導入する必要はありません。 私は企業と共同で、まずAI倫理の原則を策定し、企業が責任あるAIのフレームワークを開発できてからプレイブックに進むようにしています。
そのためには、リーダーシップの共有が必要です。 技術系のリーダーも非技術系のリーダーも、AI開発のライフサイクルに携わる必要があります。 ビジネス上の問題を理解したら、今度は小さな成功を積み重ねていくようにします。 それから次の施策について話し合うのです。 短期決戦ではなく、長期戦を見越す必要があります。 最終的に、持続可能で、地域社会に利益をもたらすものでなければなりません。
AIを題材にした児童書を出版されたとのお話ですが、 執筆のきっかけは何でしたか。
私は短編小説が好きなのですが、 書くことで複雑な技術的問題を解き明かすことにつながります。 コロナ禍が発生してから外出制限が続きましたが、私は本を書くという自分の夢を途中で諦めたくないと思ったのです。 『Little A.I. and Peet』は、保護者が子供と新たな技術について話し合えるよう、当初は電子書籍として出版しました。 出版後、ミネアポリスのデイケアセンターから電話がありました。 ハードカバーで出版されれば購入すると言うのです。 現在、3,000人近い学生が本書を手に取り、世界各国の40の店舗で販売されています。 本書の目的は、保護者と子供たちに安全な技術について知ってもらうことでした。 YouTubeには一緒に歌える曲も上げています。 本当に楽しい経験でした。 技術者の私には、人々が本に夢中になるとは思いもよらなかったのです。