会話する人形ケイラはなぜ禁止されたか | ネット接続の子供のおもちゃのセキュリティ
2017/03/09
（出典）Genesis Toys社のサイトから
インターネット接続の人形ケイラが
ドイツで販売／所有禁止となりました。
その本質を考えます。
子供にネット接続可能な玩具を与える
ことについて、我々はもう一度よく
考えるべきかも知れません。
はじめに
ドイツというお国柄なのでしょうか。
ドイツ政府がケイラという人形を
監視デバイスと認定して、その存在を
全面的に禁止しました。
つまり、ドイツ国内の企業や小売店に
ケイラの製造・販売を禁止、商品在庫
だけでなく、原則、個人の所有までも、
禁ずるという厳しいものでした。
一国の政府が、一つの人形を名指しで
「監視デバイス」と分類し、その所有を
法によって禁じるというのは、極めて
稀なケースといえると思います。
なぜ、そのようなことが起きたのか？
実際のケイラの機能を見て、何が問題かを
探ってみます。
また、我々は今後、このような子供用玩具に
ネット接続をどこまで許すのか、
どう対応すればいいのかも、考えてみます。
ケイラとは何か
ケイラの正式名は「マイ・フレンド・ケイラ」
（My Friend Cayla）です。
アメリカのGenesis Toysが製造し、
ドイツ国内でイギリスの会社が販売しました。
インターネット接続対応で、音声認識技術を
利用して子供と会話する人形です。
（出典）Genesis Toys社のサイトから
ネットに接続された環境で、子供たちの
自然な会話を理解して会話します。
質問に答え、お話を読んだりゲームもできます。
（出典）Genesis Toys社のサイトから
[ad#res-1]
最初はケイラの良い点が欧米で評価された
ケイラが誕生したのは２０１４年で、
その時は優れた玩具として賞賛されました。
「史上初のインタラクティブなIoT人形」とか
「最も賢い人形」などと言われていました。
ケイラは、子供の一般的な知識欲に対応し
多くの親がすぐに答えられないような
難しい疑問にも音声で対応することが
できるとされています。
難しい質問に答える仕組みは、Wikipediaの
APIを利用して情報を引き出すものです。
他の会話アプリと同様に、ケイラには、
「不適切な言葉、それに関連した質問には
応答しない機能」も搭載されています。
さらに、「不適切な言葉」は自分で設定可能
ということです。
つまり、保護者の考え方や宗教、民族、文化
などの背景で、人形と会話をしてほしくない
キーワードを設定できるということです。
このような機能を見れば、ケイラは
他の似たようなしゃべる玩具、例えば
Hello Barbie よりも知育を考えていると
言えるでしょう。
最初はケイラは、欧米で高評価を受けました。
なぜ、最初は絶賛されたケイラが、
問題視されることになったのでしょうか。
ケイラの問題点
２０１７年2月に、ドイツのネットワーク規制庁は
ケイラを「監視デバイス」として禁止の対象に
しましたが、この決定には、ノルウェーの
消費者委員会が行った調査が影響しています。
ノルウェー消費者委員会の調査結果
ネット接続玩具に関するものでした。
どちらも、Genesis Toysによるネット接続の
子供向けロボットで、その音声認識システムも
同じ会社Nuance Communicationsによって
提供されているという点も同じでした。
調査結果は、両方の玩具が極めて深刻な
問題を抱えているというものでした。
すなわち「消費者の基本的な権利、セキュリティ、
プライバシーの保護に対する深刻なリスクがあるのに
それらが広く理解されていない」と判断されました。
問題は次の４点でした。
（１）基本セキュリティが欠如している
（２）利用規約が違法である
（３）情報の第３者への転送
（４）密かなマーケティングの組み込み
ドイツで禁止となった人形ケイラ
[ad#res-1]
1) 基本セキュリティについて
Bluetoothペアリング機能に問題があり、
誰でも、半径約15メートル以内であれば
簡単に他のデバイスからケイラにアクセスし、
子供の会話を聞き取ることができる。
たとえば、利用の際に玩具に触れさせる
あるいは携帯電話とのペアリングの際に
ボタンを押さなければ動作しないように
システムを設計すれば、容易に避けられる
はずなのですが。
2) 利用規約が違反である
ケイラの利用規約には、
「告知なしに変更される利用条件にも同意する」
という内容が含まれているようです。
つまり、たとえ現時点で、個人情報を
悪用しないと誓ったとしても、将来的には
「収集した情報を利用し広告を配信する」
などの変化が起きた際に、ユーザーの
許可を得る必要もないということになります。
3) 情報の第３者への転送
子供が人形に語りかけたときの音声情報が、
音声認識の技術を提供している企業へ
転送されているということがわかりました。
ケイラでは音声情報の収集は、それまで
何も明らかにされていませんでした。
4) 密かなマーケティングの組み込み
ケイラのアプリにはある密かな意図のもとに
「あらかじめプログラムされたフレーズ」が
埋め込まれており、潜在的なマーケティングに
使われているという指摘がされました。
たとえばケイラは「ディズニー映画への愛」を
喜んで語りますが、そのアプリのメーカーは
実はディズニーとビジネスパートナーシップを
結んでいることが指摘されました。
米国でも問題視されている
米国でも、電子プライバシ情報センター
（EPIC）がケイラに関してのクレームを
2016年12月に米連邦取引委員会（FTC）に
提出しているそうです。
EPICはケイラは基本的なセキュリティ対策が
欠如してしているデバイスであり、そのような
子供の玩具は、子供の誘拐や、身体的な危険を
生み出す可能性がある、警鐘を鳴らしています。
ドイツのネットワーク規制庁の見解
２０１７年2月に、ついにドイツ連邦の
ネットワーク規制庁は、国内でのケイラを
全面禁止にしましたが、その理由はどう
語られているのでしょうか。
ケイラは「十分な説明もなく、親の承諾を
得ないまま、不正に子供との会話を記録し、
情報を収集している」と認定しています。
ケイラは、カメラやマイクを内蔵し、
情報を送信できるが、セキュリティの
甘い危険なデバイスであり、「その存在が
子供にとって脅威である」ということです。
過去にも似た人形が
ほぼ同時期に、同様の機能を持つ人形が
アメリカで発売され、やはり個人情報が
収集される危険性が指摘され、賛否両論が
ありました。
Hello Barbie人形
それは、しゃべるバービー人形、
Hello Barbieです。
「子供と会話できるインターネット接続の人形」
という点でケイラとほぼ同様の機能です。
この人形は、発売直後から賛否両論の
声がありました。
子供のプライバシーは守られるのかという
懸念があり、実際に、専門家から
セキュリティの脆弱性も指摘されました。
この人形を制御するモバイルアプリと、
さらにインターネット上のサーバー側にも
セキュリティ上の問題があるということが
専門家により指摘されたのです。
これに対しては、製造メーカーは脆弱性の
対策を講じ消費者への説明も行われました。
ケイラと異なるのは、Hello Barbieは、最初から
会話をより活発化させるために、データ収集すると
宣言していたことと、子供が話すときには、
人形のバックルを押すという行為が必要で
知らないうちに盗聴されるという危険は
かなり防げています。
ケイラが監視デバイスと認定された最大の理由のまとめ
重要な問題は、単に技術的なことではありません。
ケイラの問題は、設計においては
”容易に盗聴に使われるようなセキュリティ欠如」
運用においては、
”ユーザーに説明しないで実際にデータを収集した”
という点にあります。
子供に与えるインターネット接続玩具：買う前によく考えよう
子供の玩具とはいえ、インターネット接続し、
AIの機能を駆使すれば、高いレベルでの知識
獲得と育成が可能となる時代となりました。
しかしセキュリティに関する考え方は
必ずしも成熟していません。
ケイラは優れた音声認識、会話能力と、
ネット上の検索機能を組み合わせ、
知育玩具として優れた機能を実現しましたが
セキュリティの視点でのシステム設計が
全く未熟であったと言わざるをえません。
子供にとって、玩具を盗聴可能なデバイスとして
認識することはできませんし、適切にスイッチを
切るなどどいうこともできません。
ましてや、それが盗聴に使われていることを
想像することもできません。
そのような危険性のある玩具を買って
与えるのかどうか、まさに親の責任ですね。
ネット接続機能が本当に子供にとって
必要なものなのか？
そのデータはどのように使われるのか？
その製品のセキュリティやポロシーを
慎重に調べて判断する必要があります。
ネットより人を介して教えたほうが、
いい教育になると感じることもありませす。
玩具を与えておけば、自動的にネットで
賢くなるというのは、幻想かもしれません。
立ち止まって少し考えたいです。
ちなみに、知育玩具の多くはまだ
ネット接続ではありません。
知育玩具の売れ筋
まとめ
インターネット接続の人形ケイラが
ドイツで販売／所有禁止となりました。
子供にネット接続可能な玩具を与える
ことについて、我々はもう一度よく
考えるべきかも知れません。
さらに、大事なことは、この問題は、
単に子供向けの玩具だけではなく、
自動車やヘルスケアなどのIoTデバイスの
危険性についても、注視していかないと
大変なことになるなという実感を
持たせる出来事でもありました。
ドイツはやることはしっかりしていますね。
（最後まで読んでいただきありがとうございます）
元気シニア