もう古典SFの範疇ですが、前世紀の「２００１年宇宙の旅」という映画で既に「AIに余計な事を吹き込む」とロクな目に合わないということが紹介されていたのですが、やはり「余計な事を吹き込む」人は今でも後を絶たないので、不特定多数のユーザがチャットAIと会話を楽しむオンラインサービスはかなりリスクが高いですよね。
これに懲りたのかある程度常識的なことを覚えた新米社会人っぽい生成AIに「自分好みの偏った情報だけ学習」させ、そのあとに「あ～だ」「こ～だ」と短いコマンドで指示して絵や動画を作らせるなら素材さえあれば手軽だし安心という方向に変わってきました。変な結果になっても調教し甲斐があるAIだと思い込み勝手に沼にハマっていく分には趣味の範疇。個人の自由ですよね。
例えば、ガンダムに登場するモビルスーツの画像をいっぱいAIに学習させ、「ｘｘｘｘの発展型」とか「ｘｘｘｘのシャー少佐バージョン」とか指示して結果を個人的に楽しむ分には面白そうです。
しかし、こう云った「自分好みの偏った情報」を何かググれば注釈（※画像は著作権で保護されている場合があります。）付きで大量に画像等がヒットするので、これらを安易にAIに学習させて何かを生成すると注釈通り、他人の著作権を侵害してしまう可能性が99.9999・・・％ぐらいありそうですから、生成したものを公開する場合はやはり
「この画像のオリジナル率はｘｘ％です」と審査してくれる機関が欲しいですね。多分AIで出来ているんでしょうけどね。
先の「ｘｘｘｘの発展型」の例では、面白い結果が出ないと楽しく無いので、
気に入った結果を
「この画像のｘｘｘｘがベースでオリジナル率は高め。評価は☆５です。」
と評価してくれたら嬉しいかも。
でも、
「この画像は別の方がアップした画像に似ているのでオリジナル率は低い。評価は☆１です。」
などと評価されると荒れるから、むずかしいかなぁ。
※注釈：実際に生成AIを使ったことは無いので全部妄想です。