近年、"人工知能(AI)" を応用したシステムが、様々なジャンルで開発されている。 そして、"知能" と称されているからか、一般のITシステムを凌駕しているかのような差別化印象(権威的?)で受けとめられてもいる。 それだけに、ある種の配慮が欠かせないようでもある。
今回注目する下記引用サイト記事 : AI自身に倫理求める 学会が研究開発指針/日本経済新聞/2017.03.05 - 23:52 は、 <人工知能学会がこのほど、人工知能(AI)の研究開発における「倫理指針」を公表した。AIを開発する研究者だけでなく、AI自身も指針を守るべきだとの条項を盛り込んだのが特徴。工学系の学会が研究の内容にかかわる倫理指針を策定するのは珍しいが、AIの悪用や乱用に対する社会の懸念に向き合う姿勢を打ち出すことで、信頼を得る狙いがある> と報じている。
<......取りまとめに当たった東京大学の松尾豊特任准教授は「AIがAIを生み出すような(将来の)リスクにも対応できる内容にした」と説明する。 指針の序文では、AIが社会に浸透することにより「生活が格段に豊かになることが期待される一方で、悪用や乱用で公共の利益を損なう可能性も否定できない」と明記した。そのうえでAIが有益なものとなるよう、研究者は「社会の様々な声に耳を傾け、社会から謙虚に学ばなければならない」と求めた。 また「人工知能への倫理順守の要請」という条項を設け、「人工知能も学会員と同等に倫理指針を順守できなければならない」と定めた。研究者ではなくAIそのものに対する条項は「AIに市民権を与える未来を想定して盛り込んだ。ここまで踏み込んだのは世界でも初めてだ」と、策定に携わった京都大学の西田豊明教授は話す。 自らデータを学習するAIは、学習の内容によっては特定の人を攻撃したり、非倫理的な判断を下したりすることがある。2016年に米マイクロソフトが公開したAI「Tay」は差別的な発言を連発して運用停止に追い込まれた。将来AIがAIを開発する時代が来れば、研究者だけでなくAIにも倫理を求める必要が生じるという。 医学系の学会が特定の医療技術について倫理指針を設けることはあるが、工学系の学会では珍しい。策定に携わった国立情報学研究所の武田英明教授は「指針を社会とAI研究者の対話の始まりにしたい」と強調する> とある。
AI自身に倫理求める 学会が研究開発指針/日本経済新聞/2017.03.05 - 23:52
人工知能学会がこのほど、人工知能(AI)の研究開発における「倫理指針」を公表した。AIを開発する研究者だけでなく、AI自身も指針を守るべきだとの条項を盛り込んだのが特徴。工学系の学会が研究の内容にかかわる倫理指針を策定するのは珍しいが、AIの悪用や乱用に対する社会の懸念に向き合う姿勢を打ち出すことで、信頼を得る狙いがある。
取りまとめに当たった東京大学の松尾豊特任准教授は「AIがAIを生み出すような(将来の)リスクにも対応できる内容にした」と説明する。
指針の序文では、AIが社会に浸透することにより「生活が格段に豊かになることが期待される一方で、悪用や乱用で公共の利益を損なう可能性も否定できない」と明記した。そのうえでAIが有益なものとなるよう、研究者は「社会の様々な声に耳を傾け、社会から謙虚に学ばなければならない」と求めた。
また「人工知能への倫理順守の要請」という条項を設け、「人工知能も学会員と同等に倫理指針を順守できなければならない」と定めた。研究者ではなくAIそのものに対する条項は「AIに市民権を与える未来を想定して盛り込んだ。ここまで踏み込んだのは世界でも初めてだ」と、策定に携わった京都大学の西田豊明教授は話す。
自らデータを学習するAIは、学習の内容によっては特定の人を攻撃したり、非倫理的な判断を下したりすることがある。2016年に米マイクロソフトが公開したAI「Tay」は差別的な発言を連発して運用停止に追い込まれた。将来AIがAIを開発する時代が来れば、研究者だけでなくAIにも倫理を求める必要が生じるという。
医学系の学会が特定の医療技術について倫理指針を設けることはあるが、工学系の学会では珍しい。策定に携わった国立情報学研究所の武田英明教授は「指針を社会とAI研究者の対話の始まりにしたい」と強調する。
"人工知能(AI)" に "額面どおり" の実力を発揮させるには、これにまつわりやすい "権威主義的なベールと誤解" とを取り除き、実態や実質的可能性が凝視される必要がありそうだ。 そして、同時に、上記記事のような "倫理指針" の観点からのチェックが欠かせないのではないかと思われる...... (2017.03.08)
コメントする