後発サービスとして「同じ轍」を踏まないための安全対策
――急速にユーザーを獲得しつつあるTikTokですが、その爆発的人気の理由は何でしょうか。また、先生や保護者はどのように捉えているのでしょうか。
シンプルに言えば「15秒のショート動画をシェアするスマホアプリ」で、誰もが憧れる「クリエイティビティを実現できる喜び」を得られることが一番の魅力になっているのだと思います。自由に使える著作権処理済みの音楽や、アプリ内だけで簡単にできる画像の加工機能なども用意されているので、自分の身ひとつ、スマホひとつで手軽に「誰でもクリエイターになれる」のです。
さらにそうした動画を楽しむ人がつながってコミュニティができ、コメントやメッセージのやり取りといったSNSの機能も持ち合わせていますが、あくまで動画という作品を介してであり、私たちはSNSアプリであるという認識はしていません。しかし、そうしたSNS的機能を持つサービスである以上、これまで起きたような青少年のトラブルの発生は想像に難くありません。サービスが普及すればするほど、先生や保護者から懸念の声も聞かれるようになってきました。
――TikTokが安全対策の取り組みを始めたきっかけ、経緯について教えてください。これまで問題となった事例があるのでしょうか。
いくつかTikTokをきっかけとする性被害などのトラブルの報道もありますが、安全対策の取り組み自体はそれらがきっかけというわけではありません。TikTokはすでに世界150カ国に展開しており、安全対策はすでにグローバルな取り組みとして行ってきました。先行のSNSアプリなどで起きたさまざまな問題から学び、同じ轍を踏むのは避けたいと考えていたこともあります。ただ、日本での社会事情や教育に関する考え方の違いなどから、事業と並行して国内独自の安全対策を行う必要性があることは認識していました。
私自身は2018年9月にBytedanceへ入社して、現在は「公共政策」を担当し、大きなテーマとして「子どもの安心安全」や「プライバシー保護」に取り組んでいます。この「子どもの安心安全」は、実は前職のFacebook、その前のGoogleやマイクロソフトなどでも担当してきたテーマだったので、日本での過去の事例についても熟知していました。他のプラットフォームで起こっていることは起こり得るという前提で、後発のTikTokに「同じことを繰り返させてはいけない」という思いもあり、これまでの試行錯誤や失敗も含めた経験や人脈を生かし、日本での安全対策を加速度的に推進したいと考えたのです。
基本的な施策に加え、AIを活用した独自の取り組みも開始
――それでは、具体的な活動内容について教えてください。
TikTokの安全対策においては、「（1）ルールや規約の整備」「（2）ユーザーに対するツールやアプリ内機能の提供」「（3）教育啓発・キャンペーン」「（4）パートナーシップや業界団体との連携」を4つの柱を軸に活動を行っています。
まず「（1）ルールや規約の整備」です。サービスやコミュニティの規約などについては他社でも取り組まれていますが、特に動画を公開するという性格上「アップしてはならない動画」を事細かく定めています。そして当社が受け取ったプライバシー情報についてのポリシーも定めています。
「（2）ユーザーに対するツールやアプリ内機能の提供」については、トラブル時に24時間365日通報が可能な「通報ボタン」、閲覧やコメントなどをどこまで誰に許すかという「プライバシー設定機能」などがあります。意外に知られておらず、ぜひ活用していただきたいのが、「デジタルウェルビーイング」という項目で設定できる保護者向けの「ペアレンタルコントロール機能」です。これはアカウントとはまた別のパスワードが設定できるようになっており、時間制限機能や不適切動画のブロックなどの設定ができるようになっています。現在はこの2つの設定のみですが、今後はもっと細やかに設定できるよう追加していく予定です。
――動画コンテンツを取り扱うTikTokならではの取り組みはありますか？
はい、特徴的なものとしては「リスク警告機能」があります。これは動画が危険を伴う動作であったり、不快感を与えるような内容だったりした場合に、まずはAIが検知して画像を判断し、人間がチェックした上で画面上に赤いラインとともに警告が入るというものです。「ペアレンタルコントロール」の不適切動画設定と連動するようになっており、設定すれば警告の入った動画は表示されなくなります。
そして、これもTikTok独自の取り組みで、メッセージを送ってきた相手に3回反応しない場合は自動的にブロックされる「メッセージのブロック機能」を試験導入しています。子ども側が何も能動的に行動しなくても、しつこく送ってくる相手を無視するだけでブロックできるというわけですね。またAIによる不適切な行動察知も実験段階にあります。
そして自殺防止を意識した機能として、自殺・自傷行為への関心を伺わせる検索が行われると、「セーフティパートナー制度」に登録いただいている「東京自殺防止センター」や「日本いのちの電話連盟」などにボタンひとつで電話がかけられる画面へと誘導されるようになっています。