AIによる誤判定がきついね

AIによる誤判定がきついね

AIが何を学んで、
これはダメこれは大丈夫という判断をしているかはわかりませんが、

悪い言葉、
例えでは「あつい」という言葉を使ってたらダメで、
「ああついにやってしまった」という、言葉が偶然繋がっただけでダメとか。
(元ネタは幽遊白書です)

絵とか、
肌色の多さがダメというのを学んで、
偶然にも熊とかキツネとか、
熊やキツネの毛の色が肌色のダメな多さ以上と誤判定されてダメとされたり、

これはダメというのを学習したら、
融通というか徹底的にダメ扱いして、
自動で、それを使えなくするのがね。

普通にそれを使っている人が、
「あれ？なんで急に使えなくなったの？」と驚くよ。