Data Security - Deep Learning

人工知能と詐欺について

 今回は、今年に入って人工知能業界を震撼させた「詐欺的ななんちゃって人工知能で賞金獲得」事件について日本の皆さん向けに言及します。

https://www.kaggle.com/c/petfinder-adoption-prediction/discussion/125436

 起こった事件の概要としては、「人工知能のフリをしたプログラムに、ハッキングで得た最適解を忍ばせて、高い正答率を出させて賞金を不正に得た」です。マレーシアの動物保護団体がウェブサイトでゆくゆくは殺処分される事になる動物の養子縁組活動を行っていますが、少しでも殺処分される動物を減らすために縁組をできる限り早期に成立させるための補助人工知能の作成を課題として賞金(日本円で270万円ほど)をかけました。

 詐欺を働いたのはコンテストサイト「Kaggle」でもグランドマスターの成績を納めていた人物で、人工知能に与えるデータの中に正解をMD5で暗号化した文字列を隠し、それを巧みに復号化して不正に正解を出力していました。

 私が許せないのは、動物たちの命がかかった問題であり、それをなんとか解決しようとしたコンテスト主催者の意図を賞金のために踏みにじったことであり、人工知能というテクノロジーを扱うに値しない低いモラルを持っていることです。


詐欺を行った人物(Pavel Pleskov @ppleskov)

 残念ですが、このような輩は一定の率で出現します。これまでも卑猥な映像を生成して名誉毀損したり、過去の恥ずかしい経歴を顔写真から検出したり、お金のために他人や世界を乱す輩が出ました。

 我々、人工知能業界人のあるエリアのコミュニティーは幸運なことにモラルの高いエンジニアが集まっているので、現時点ではそのような輩は一致団結して非難して業界から袋叩きにすることで最低限のモラルの一線は守れています。しかし、今後にどこまで健全でいられるかは不透明な部分もあります。


 本当に困ったものです。。

Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments