成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ

by Julian Kingアダルトコンテンツの投稿禁止を新ガイドラインに設けたミニブログサービス・Tumblrが、独自の人工知能(AI)を利用してTumblr上に投稿された画像の中からアダルトコンテンツに相当するものを自動で選別し、警告を送り出しています。しかし、このアルゴリズムの判定があまりにもお粗末なために、健全な画像もポルノ判定を下されまくっていると話題になっていて、Twitterでは次々と報告があがっています。

45コメント

2018年12月06日21時08分

  • pulchan_kara

    #Tumblr #AI #ポルノ画像 #SmartNews

    2018年12月07日 00時41分

    142
  • TK24_NN

    #SmartNews AIのモデルがふしぎ研究部の麗子なんだよ、多分。

    2018年12月06日 23時41分

    144
  • 奇奇怪怪

    まあ学習済みデータがクソすぎんだよ。少しはQualityを上げてから導入すればいいのに。ユーザを使って学習させているだけだろ。アルファテストにもならん状況をアップすんな!って思うwww

    2018年12月06日 21時08分

    83
  • 時雨

    リザードンはそのうち、変換ソフトにお…

    2018年12月06日 21時08分

    84
  • ほぼ近

    壮大なコントだから許してあげて。

    2018年12月06日 21時08分

    74
  • 763

    このgdgdっぷり、偽装倒産して金を持ち逃げする前触れと言われても驚かないぞw

    2018年12月06日 21時08分

    73
  • グライムズ提督(PN:石川秀一)

    リザードンや生クリームに欲情するAI(笑)

    2018年12月06日 21時08分

    74
  • フジワラ氏(本物)

    AIに仕事取られるとかいうけど、これ見るとまだまだ仕事は…

    2018年12月06日 21時08分

    74
  • 苦労してでも楽したい

    Tumblrって下火かと思ったらそうでもなかった模様。ポ…

    2018年12月06日 21時08分

    74
  • haireriah

    「ガバガバすぎる」ってコメントだけ流れてきてたけど、こんなことになってたんだ・・・

    2018年12月06日 21時08分

    74
  • ヤギの人(ゐうさい)

    どれくらいガバガバかと言うと「Tumblr公式スタッフブログによるアダルトコンテ…

    2018年12月06日 21時08分

    73
  • タモはこたつに移動してくださいっ!

    これはガバ太郎もビックリなレベルやな:

    2018年12月07日 04時41分

    64
  • 抹茶味のロールケーキ

    体が接触してるとアウト判定を受けやすいっぽいですねえ

    2018年12月06日 22時41分

    63
  • Hiryuu Haruki

    5件のコメント “20181206tumblraiflaggedpost”

    2018年12月06日 21時26分

    63
  • gigazinealternative

    2018/12/06 19:00

    2018年12月06日 21時08分

    63
  • deli

    まったくもってけしからん画像のオンパレードである

    2018年12月06日 21時08分

    64
  • てんしょんまる

    ぱっと見、肌色が多いとかかるのかな?

    2018年12月06日 21時08分

    63
  • ヒヤマカズト

    リザードンはアダルトコンテンツだったのかー。

    2018年12月07日 08時41分

    54
  • MJ

    AIを機械学習で作っていた場合、これらの画像かなんで判定されたか誰にもわからなくて学習を更に進めるしか解決は無い /

    2018年12月07日 08時41分

    53
  • Hideo Saito

    “20181206tumblraiflaggedpost”

    2018年12月07日 03時41分

    54
  • 百合営業をしないぶにゅ

    見てるうちにエロさに気づいてくるから怖い。

    2018年12月07日 01時41分

    53
  • ピーチ

    ここまでガバってるとは思わなんだ

    2018年12月07日 00時41分

    52
  • あトん

    Tumblerでアダルトコンテツ狩りが盛り上がってますが、警告を送るだけで公開中止にはなってないようです。少し検索してみたら、Tumblerは思った以上にエロ画像の宝庫でビック…

    2018年12月07日 00時41分

    53
  • ぴこぴこ

    想像力が豊かすぎるtumblr

    2018年12月07日 00時41分

    53
  • akb44  Λ

    これ、社外サービスで比較的分かりやすいものだから笑話にできてるけど、会社内の機能として内部的に利用された場合とか、なんか災いを呼びそうに

    2018年12月06日 23時41分

    53
  • TERAKAWA JIRO

    TumblrのAIがポルノ画像と判定してしまった健全な画像まとめ新しいAIの利用方法を示唆している…ような気もする

    2018年12月06日 23時41分

    54
  • Galaxy

    エッチな事大好きな開発屋としては「おっぱい」「まん◯」「ちん◯」の画像をAIに…

    2018年12月06日 23時41分

    54
  • ハセグル(IBC)

    エロについて学習しすぎて、すごく高度な性癖を持ってしまったのかもしれない。

    2018年12月06日 22時41分

    53
  • ひがじょう

    変態AIには全てがポルノ / 他7コメント “20181206tumblraiflaggedpost”

    2018年12月06日 22時41分

    54
  • 稲葉振一郎

    8件のコメント “20181206tumblraiflaggedpost”

    2018年12月06日 22時41分

    57
  • オカベ

    リザードンはアダルト、わかる。ドラゴンカーセ●クスに該当したんやろ。

    2018年12月06日 21時41分

    54
  • たこやき

    社長が辞めたのも結局こういう規制で揉めたんやろうな

    2018年12月06日 21時08分

    54
  • ヲカザキ

    ワロタw >Tumblr公式スタッフブログによるアダルトコンテンツ禁止を告知するポストも違反しているとして警告を送られている :…

    2018年12月06日 21時08分

    55
  • 奈香理世実

    #SmartNews 滅茶苦茶じゃねえか。

    2018年12月06日 21時08分

    53
  • くまラボ

    Tumblrの人工知能が思春期の男子中学生並の知能を獲得した(ポジティブ)

    2018年12月06日 21時08分

    54
  • 皐月ヨウ

    そんなことより、トップにすぴにゃん出てくるの面白すぎるでしょ

    2018年12月06日 21時08分

    53
  • 汚いヒップレオン

    タンブラーだと、リザードンはかなりの確率でポルノ画像と判断されてしまうのか……なるほど

    2018年12月07日 08時41分

    43
  • トレンドbot

    「 」がはてなブックマーク ホットエントリ(上位20位)入りしました。

    2018年12月07日 07時41分

    44
  • ナナミ・シンプソン@諸事情で映画は円盤で観る派

    中二男子並のエロ感度の敏感さwww

    2018年12月07日 06時41分

    410
  • 中杜カズサ@コミティア I-60a

    荒いAIでも普通の絵と写真の判別なんぞ難しくないわけで、つまり絵も規制対象に加えているという可能性が大きい。すると今後それ系の(自前の絵の)投稿も出来なくなるわけで、使う意義があろうかとなる。 / “201812…” #Tumblr

    2018年12月07日 03時41分

    43
  • いつみゆう@埼玉

    15件のコメント “20181206tumblraiflaggedpost”

    2018年12月07日 00時41分

    42
  • 星野テルカズ(MTX)

    リザードンはね…仕方ないところあるよね… / “20181206tumblraiflaggedpost”

    2018年12月06日 23時41分

    44
  • きったん

    それっぽいものを抽出するのには使えるんだろうけど、プラス人力も加えないと話にならない精度 / 他13コメント “20181206tumblraiflaggedpost”

    2018年12月06日 23時41分

    43
  • 勹″〒

    【悲報】エロ禁止になったTumblr、無差別排除が開始さ…

    2018年12月06日 22時41分

    43
  • つかさ

    AIの判定ねえ…まあ、なんとなくそれっぽいものもあるけど、全く理解できないものも。早くシンギュラリティなんてモノを見てみたいものだ。。∀) 成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してし…

    2018年12月06日 22時41分

    43
広告