同人用語「売り子」が隠語化でアカウント凍結のトリガーに？　ネットサービスの「AI頼み」に危惧も

　先日、12月末に開催される日本最大の同人誌即売会「コミックマーケット（コミケ）」のサークル参加当落が発表された。それと同時期にX（旧Twitter）で「凍結祭り」が起きているとし、その原因をめぐって「AIの誤判定が起きているのでは」といった憶測が飛び交い、ネットサービスが「AI頼み」になることを不安視する声が沸き起こっている。

　「コミックマーケット」については、サークル参加で応募した人たちがXなどで当落結果を報告するのがお決まりで、今回も「あなたのサークル『〇〇〇』は、コミックマーケット103で『〇〇〇』に配置されました」という当選メールの内容をコピペした投稿が相次いだ。

　ちょうどこの時期、フォロワー数が激減したという声が続出したことなどで、大量のアカウントが停止される「凍結祭り」が起きている可能性が浮上。「コミケの情報やサークルカットを掲載してすぐ凍結された方を複数目撃しています」といった指摘も寄せられ、その原因をめぐって情報が錯綜することになった。

　凍結の原因として、ネット上で話題となった説としては「コミケ運営からのメールをそのままコピペしてるので『定型文によるスパム』と判断された」というものがある。イーロン・マスクが買収してからXはスパムアカウントの取り締まりを強化しているが、その流れの中で当落報告の定型文が「AIの誤判定」を受けたのではないかと指摘されているようだ。

　さらに、同人用語としておなじみの「売り子」という言葉が凍結のトリガーになっていると推察する意見もある。売り子とは、同人イベントのサークルブースでお客さんとお金や商品のやり取りをする役目のことで、作者本人がやる場合もあれば、サポートで友人・知人などが担当するケースもある。「ビールの売り子」など他の分野でも一般的に使われる言葉だが、これがいつの間にか性的なジャンルで使われるようになり、その影響で「売り子という言葉を書き込むと凍結のリスクが高まる」との説が飛び交っているのだ。

　実際、Xで売り子という言葉を検索しようとすると、サジェストで「#売り子jk」「#売り子JD」「#売り子女子」といったハッシュタグが出てくる。これらのタグを使っているのは、使用済みの下着や靴下、制服、生理用品、唾液、性的な写真・動画などを販売している女性たちが中心で、「売り子」はかつてのブルセラを意味する隠語になっている。この状況によって「売り子」がいかがわしい言葉であるとAIに判定され、凍結の原因になるのではと疑われているようだ。

　あくまで、これらの説は憶測であり、実際のところは何が凍結の原因になっているのかは不明だ。というのも、Xに限らず基本的にAIのアルゴリズムはブラックボックス化しているので、ユーザー側は原因を推測することしかできないためだ。ただ、SNSやYouTubeなどでは、AIの誤判定によってアカウントが停止され、ユーザーが異議を申し立てて復旧するというケースが少なからずあり、AIによる誤判定は日常的に起きていると推察される。

　先日、動画投稿サイト「ニコニコ」がMastercardでの決済の一時停止を発表したが、その原因にもAIの誤判定が絡んでいるのではと指摘された。2014年に投稿された「汚い仔猫を見つけたので虐待することにした(1匹目）」という動画の投稿主が「この動画に対してMastercard社から非公開要請があった」と明かしているのだが、この動画はギョッとするようなタイトルとは裏腹に、保護した子猫を「お湯攻め」と称して優しくお風呂で洗ったり、「とてもじゃないが飲めない白い飲み物を買ってきて飲ませる。もちろん、温めた後にわざと冷やしてぬるくなったものを」などとしてミルクを与えたりするもので、問題があるようには思えない内容だった。

　ところが、Mastercard側は「動物虐待などの要素を含む」と認識しているそうで、要請に納得できないニコニコ側と衝突したことで決済が一時停止なったのではと推察されている。人間が動画をチェックすれば一発で問題ないと分かることから、「タイトルをそのまま受け取ったAIの誤判定では」と指摘する声があるようだ。

　大手のネットサービスでは、ユーザーやコンテンツの管理においてAIの導入が進んでいるが、もし誤判定でアカウントの停止や決済をめぐるトラブルなどが起きたら、ユーザー側は不当に大きな損失をこうむることになる。AIが驚異的なスピードで進化しているのは間違いないだろうが、ネット上では「全部AI任せになるのは怖い」「まだ全然ポンコツなのにAIに頼りすぎ」といった声もあり、今後の大きな課題になっていきそうだ。