TikTokはAIモデレーターを採用するために数百人を解雇、一方Instagramは自らの問題を人間のせいにしている

動画ソーシャルメディアプラットフォーム「TikTok」を展開するバイトダンスは、AIファーストのモデレーションスキームへの移行にあたり、世界中で数百人のコンテンツモデレーターを解雇したと報じられている。

ロイター通信によると、失われた約500人の雇用のほとんどはマレーシアにありました。バイトダンスによると、同社は合計11万人以上の従業員を雇用しています。TikTokの広報担当者は声明で、「これらの変更は、コンテンツモデレーションのためのグローバルな運用モデルをさらに強化するための継続的な取り組みの一環として実施しています」と述べています。

同社は現在、人間とAIによるコンテンツモデレーターを併用しており、作業の約80%をAIが担っている。バイトダンスは2024年に信頼性と安全性の取り組みに約20億ドルを投資する予定だ。今回の解雇は、今年に入って有害なソーシャルメディア投稿や誤情報が急増している中国で、バイトダンスが規制当局の監視強化に直面している中で行われた。

米国では、Instagramの責任者アダム・モセリ氏が金曜日、InstagramとThreadsで最近相次いでユーザーアカウントがロックされ、投稿のランクが下げられ、スパム扱いされた件について、同社のAIモデレーションシステムではなく、人間のモデレーターのミスが原因であると発表しました。モセリ氏は、従業員が「会話の展開に関する文脈を知らされずに判断を下していたのは、見落としだった」と主張しています。

しかし、人間に全て責任があるわけではないとモッセーリ氏は明言した。「私たちが作ったツールの一つが壊れてしまったのです」と彼は認め、「そのため、十分なコンテキストを提供できなかったのです」

過去数日間、両サイトのユーザーは、プラットフォームの年齢制限（13歳未満のアカウント保有を禁じる）に違反したとしてアカウントがロックされ、その後無効化された。The Vergeによると、これらのアカウントは、ユーザーが年齢確認書類をアップロードした後もロックされたままだった。

同社の広報担当者はモッセリ氏の立場に異を唱え、TechCrunchに対し「Instagramユーザーが遭遇した問題のすべてが人間のモデレーターによるものではなかった」と述べた。広報担当者によると、年齢確認の問題は現在も調査中だという。