株式会社 ODR Room Network 代表取締役

万代 栄一郎

1981年 立教大学経済学部 経営学科卒業
...もっと見る
1981年 立教大学経済学部 経営学科卒業
事務計算センター(現日本システムウエア株式会社)入社
イスラエル製品マーケティング担当 副本部長

2004年 株式会社リンクマネージ取締役 経営管理担当

2008年 日本システムウエア株式会社(NSW) 非常勤顧問

2008年 株式会社 ODR Room Network 代表取締役

システムエンジニアとして各種システム設計・開発・運用に従事、
早稲田大学 情報化プロジェクト、杏林大学 総合情報センター技術顧問、
独立後 ODR 専門家として外資系日本法人の IT コンサルティング、弁護士事務所等の IT サポート、総務省のODRプロジェクト、経済産業省 ERIA プロジェクト、経済産業省の国境を越える電子商取引の環境整備プロジェクト、消費者庁越境消費者センター事務局

群馬県出身 / 横浜市在住

AIの判断はエンジニアの判断?法律家の判断?

ODRの話題の一つが、
AIが紛争解決に関わった場合、その判断は、AI機能を開発したエンジニアの判断なのか、その開発に関わった法律家の判断なのか
ということ。

通常は、SNSやECサイトなどで、法律に関することなら、利用規約や各種取引の規定に記載する。そしてプログラムはその規定を反映して組み立てられる。しかし、プログラムは規定と同期しないで組み立てられる可能性もある。
例えば、AIのプログラムのアルゴリズムがSNSにも影響を及ぼす可能性がある。顔認証で自動的に何かの広告を出す場合にも、利用者の属性判断になんらかの恣意性が組み込まれれば影響する。法的な判断や紛争解決ではさらに重大な影響を及ぼす可能性もある。

「コード」が法律になる日 重み増す巨大ITの責任

AIが紛争解決に法的判断を出すようになる日も近いと言われている。その判断のロジックを表すプログラム、アルゴリズムの内容を、ITの専門家ではない法律家によって正確に監修されているかどうか?法律家自身もそう言い切れないのではないかということ。
さらに言えば、法律家が判断できない専門的なプログラムによる法律的な見解を出しているのは、そのプログラムを書いているエンジニアの判断になっている場合もありうるということ。

ディープラーニングによる法的判断へのエンジニアの影響

ディープラーニングによって膨大な情報から学んだ結果から結論を導き出す手法が期待されているが、そのラーニング自体のプログラム、結果の出し方にも未だ試行錯誤の調整が必要な状態だった場合、その調整をするのはエンジニアであるから、ディープラーニングの結果によって出力される法的判断は、法律家が検証できていない可能性もある。法律家が監修していても、100%監修できていない可能性もある。
そうなると、ITエンジニアのプログラミングが法的判断に直接影響し、それが判例になれば、エンジニアの書いたコードが法律に影響してくることになる。

そういう高度な話でなくても、法律判断に関わるような、例えば、支払いに関するプログラムが、金融的な法律がない分野のことを先行して処理するようになれば、それはプログラムが法律に影響してくることになる。

ITエンジニアの記述するコードが法律に影響する時代となっているというのはそういうことである。