子どもの「自画撮り」被害をAIが防ぐ トーンモバイルが格安スマホ

SNSで知り合った人の求めに応じて子どもが自分の裸の写真を送ってしまい、バラまくぞと脅されてさらに過激な写真を送ることに――。このような「自画撮り」の被害が増えていることを受け、トーンモバイルが裸などの不適切な画像を判別して撮れないようにする独自機能を搭載した格安スマホを発表しました。独自のAI技術を用いて実現した機能で、大手キャリアでも採用例がない機能を備える格安スマホとして、子どもを持つ親に注目を集めそうです。

○AIが裸を検出すると画像を破棄、親にも通知

トーンモバイルが発表したのが、格安スマホ「TONE e20」。6.26インチの大きな液晶ディスプレイや超広角撮影対応のトリプルカメラを搭載し、顔認証と指紋認証のどちらでもロック解除ができる使い勝手のよい製品に仕上がっています。充実した内容ながら、価格は税別1万9800円とお手ごろです。

TONE e20の特徴となる自画撮り被害防止は、独自機能「AIフィルター」を搭載したカメラアプリ「TONEカメラ」で利用できます。

AIが撮影した写真の被写体を分析し、撮影したのが人物の裸だと判断した場合は警告が現れ、写真は端末に保存されずに破棄されます。合わせて、保護者のスマホに不適切な写真を撮影したことが通知され、そのような写真を撮ろうとしたことを親が認識できます。「こういう写真を撮ったら親に通知が行く、ということで抑止効果も期待できる」とトーンモバイルの石田宏樹会長は自信を見せます。

AIによる不適切画像の検出はすべて端末内で処理され、クラウドサーバーにアップロードはせずに処理されます。

裸の検出は、単純に肌色の比率で判定しているわけではなく、多くのサンプルをもとにAIが多角的に判断しているそう。レジャーなどで撮影した水着の写真は問題なく撮影でき、下着や露出が大きすぎる水着はNGと判断されます。裸は男性でもNGとなります。

裸の検出はTONEカメラのみで有効となり、ほかのカメラアプリでは機能しません。ペアレンタルコントロール「TONEファミリー」の設定で、カメラアプリはTONEカメラのみ起動可能にすることで、ほかのカメラアプリを使う抜け道を防ぐことができます。

○LINEなどのスーパーアプリ、個々の機能を制限できるように

もう1つ、TONE e20で加わった安心機能が、1つのアプリでさまざまな機能を持つスーパーアプリへの対応です。

大手企業が提供する人気アプリは、1つのアプリにさまざまな機能を搭載する「スーパーアプリ」へと進化を続けています。LINEの場合、本家のメッセージ機能だけでなく、不特定多数がチャットできるオープンチャットSNS、キャッシュレス決済、ゲーム、マンガなどの機能を含んでいます。

1つのアプリからいろいろな機能を呼び出せるのが便利ですが、困るのが一部の機能だけ子どもの利用を制限したい場合。「LINEのメッセージ機能は使わせたいが、オープンチャットSNSは禁止したい」というケースでは、OSのフィルタリング機能でLINEのアプリ利用を制限してしまうと、メッセージをはじめすべての機能が使えなくなります。その結果として、フィルタリング機能を利用しないまま使わせる、という困った状況が発生しているわけです。

その悩ましい状況を防ぐべく、TONEファミリーをアプリ内の機能を個々に制限できるように改良しました。当初はLINEのみの対応となりますが、今後対応アプリは増やしていくとのことです。

ジャンルで探す