やまもといちろうメルマガ「人間迷路」より

日本のエロAIが世界を動かす… ことにはならないかもしれない


 ということで、案の定海外英字メディアに捕捉されて面倒くさいことになっております。早くも余波到来で、非常につらい時期に差し掛かりました。さて、どうやって着地させましょうね。

Illegal trade in AI child sex abuse images exposed

Abuse images are being shared via a three-stage process:

・Paedophiles make images using AI software

・They promote pictures on platforms such as Japanese picture sharing website called Pixiv

・These accounts have links to direct customers to their more explicit images, which people can pay to view on accounts on sites such as Patreon

 今回のメルマガの有料部分インシデント2で、同じくAI規制に関する議論も掲載しているのですが、ここではいわば「空中戦としての生成AI問題」として何を違法とするべきかというところに着眼したいと思います。

 というのも、BBCの報道ではタイトルからしていきなり「Illegal(違法な)」としていますが、我が国の現行法ではこれらがただちに違法だと言えるものかというと微妙なものがあるからです。さっそく警察庁の人たちともあれこれ話をしておりますが、被害の申し立てはまずありえない(勝手に誰かのLORAモデルでも無断展開されたのでもない限り)、あるとしたら単純所持方面で児童ポルノと認定し得るのかという問題になっていくでしょう、という話になります。

 というのも、児ポ法における児童とは、当たり前のことですが実在する児童とそれに関連したコンテンツの諸事や販売に対する規制なのであって、ここでいう「みだりに児童ポルノを所持し」は、AIで生成された児童が仮に18歳に満たない外見に由来する画像であったとしても、それが18歳未満であるかを法的に確定させる術がないので「そう見えるから処罰」というウルトラ技でも編み出されない限り生成AIによって創出された児童ポルノ紛いの代物も当然児ポ法での処罰の対象とならないと見受けられるからです。

児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律

(定義)
第二条 この法律において「児童」とは、十八歳に満たない者をいう。
2 この法律において「児童買春」とは、次の各号に掲げる者に対し、対償を供与し、又はその供与の約束をして、当該児童に対し、性交等(性交若しくは性交類似行為をし、又は自己の性的好奇心を満たす目的で、児童の性器等(性器、肛門又は乳首をいう。以下同じ。)を触り、若しくは児童に自己の性器等を触らせることをいう。以下同じ。)をすることをいう。
一 児童
二 児童に対する性交等の周旋をした者
三 児童の保護者(親権を行う者、未成年後見人その他の者で、児童を現に監護するものをいう。以下同じ。)又は児童をその支配下に置いている者

 実のところ、生成AIが目立つので今回のような事態がBBCにPixivやPatreon名指しで掲載されるようになっているのですが、他方で、SkebほかNSFWは取り締まりの対象とされるべきかという話はかねて出ています。というのも、イラストはOKだけど生成AIはNGなんて話はまあ通らんでしょというのもあります。

 また、LORAなどの児童モデルをMayaなどCGツール類を使って児童ポルノを生成することは別に生成AIなどなくとも元から存在していたものではありましたから、その点では、かつてネットミームとして話題に良くなった「非実在少女への規制」という割と表現規制の王道のところに立ち入る古典的な議論に戻ってきているとも言えるのです。

 最高に面倒くせえわけですが、かといって、そんなものが氾濫していていいのかというお気持ちや倫理の問題はどこかに必ず存在しますし、元データは何であれそのような児童虐待にも近い形でコンテンツが流通している現実には変わりありませんから、何かしらの線引きをして、それに見合った規制をしましょうという議論にならざるを得ません。つまり、個人間の「同好の士」的なコンテンツ融通は再び地下に戻るよう、既成のサービスを運用する事業者の側にそのような生成AIで違法「まがい」のものを取り扱うな、という流れになります。

 同じようなことは、コンテンツ業界での取引においても先行して発生しており、メルマガでも、記事でも、何度も問題でやんすねと指摘はしてきたつもりなのですが、結果としてこのようなことになるのは実に忸怩たる面もあります。

pixivなど同人マンガ界隈で「クレカ決済拒否」が大変な騒動になっている件について「結果的に」表現規制となってしまう一連の顛末

 そして、これらの問題はもうすでに過去に起こった未来なのであって、とっくに解決不能な状態になっているとも言えます。

 さらに、折の悪いことに同じくBBC発で、ジャニーズ事務所の総帥であったジャニー喜多川さんに関するセックススキャンダルも出ています。ブリカスに変な口の挟まれ方をする謂れはありませんが、ただアカンものはアカンのは事実で、それはまあ善処しないことには話にならんなというところではあるのですが、これらがオンラインでの生成AI創出物のやり取りに対する規制だけでなく、アニメや漫画、ゲームといった各種コンテンツに対する規制となったり、別の形で日本文化全体に対する忌避感に繋がることのないよう慎重に対応をしたいというのが本音です。
 

やまもといちろうメールマガジン「人間迷路」

Vol.408 生成AIとエロでややこしい状況になりつつあるのを嘆きつつ、大学10兆円ファンド騒動の核心やAI規制の動向などを語る回
2023年6月29日発行号 目次
187A8796sm

【0. 序文】日本のエロAIが世界を動かす… ことにはならないかもしれない
【1. インシデント1】「大学10兆円ファンド」でマスコミが盛大にミスリードして起きたこと
【2. インシデント2】AIに規制が必要という話が盛り上がっている件について
【3. 迷子問答】迷路で迷っている者同士のQ&A
【4. インシデント3】いやー、解散総選挙が無くて良かったねって話

 
やまもといちろうメールマガジン「人間迷路」のご購読はこちらから

やまもといちろう
個人投資家、作家。1973年東京都生まれ。慶應義塾大学法学部政治学科卒。東京大学政策ビジョン研究センター客員研究員を経て、情報法制研究所・事務局次長、上席研究員として、社会調査や統計分析にも従事。IT技術関連のコンサルティングや知的財産権管理、コンテンツの企画・制作に携わる一方、高齢社会研究や時事問題の状況調査も。日経ビジネス、文春オンライン、みんなの介護、こどものミライなど多くの媒体に執筆し「ネットビジネスの終わり(Voice select)」、「情報革命バブルの崩壊 (文春新書)」など著書多数。

その他の記事

トヨタが掲げるEV車と「それは本当に環境にやさしいのか」問題(やまもといちろう)
「狭霧の彼方に」特別編 その2(甲野善紀)
「いままで」の常識が通じない「宇宙気候変動」について(高城剛)
Amazonプライムビデオの強みとは(小寺信良)
生き残るための選択肢を増やそう(後編)(家入一真)
5年すればいまの世界はまったく違う世界に変わっている(高城剛)
萌えセックス描写溢れる秋葉原をどうするべきか(やまもといちろう)
川端裕人×小野雅裕 対談<答えの出ない「大きな問い」が僕らをつないでくれる>(川端裕人)
日本の未来を暗示する名古屋という街(高城剛)
「コンテンツで町おこし」のハードル(小寺信良)
岸田文雄さんが増税判断に踏み切る、閣議決定「防衛三文書」の核心(やまもといちろう)
「夢の国」に背徳が登場する日はやってくるのか(高城剛)
絶滅鳥類ドードーをめぐる考察〜17世紀、ドードーはペンギンと間違われていた?(川端裕人)
なぜ作家に「酒好き」が多いのか(ロバート・ハリス)
アーユルヴェーダで本格的デトックスに取り組む(高城剛)
やまもといちろうのメールマガジン
「人間迷路」

[料金(税込)] 770円(税込)/ 月
[発行周期] 月4回前後+号外

ページのトップへ