ということで、案の定海外英字メディアに捕捉されて面倒くさいことになっております。早くも余波到来で、非常につらい時期に差し掛かりました。さて、どうやって着地させましょうね。

Illegal trade in AI child sex abuse images exposed

Abuse images are being shared via a three-stage process:

・Paedophiles make images using AI software

・They promote pictures on platforms such as Japanese picture sharing website called Pixiv

・These accounts have links to direct customers to their more explicit images, which people can pay to view on accounts on sites such as Patreon

　今回のメルマガの有料部分インシデント2で、同じくAI規制に関する議論も掲載しているのですが、ここではいわば「空中戦としての生成AI問題」として何を違法とするべきかというところに着眼したいと思います。

　というのも、BBCの報道ではタイトルからしていきなり「Illegal（違法な）」としていますが、我が国の現行法ではこれらがただちに違法だと言えるものかというと微妙なものがあるからです。さっそく警察庁の人たちともあれこれ話をしておりますが、被害の申し立てはまずありえない（勝手に誰かのLORAモデルでも無断展開されたのでもない限り）、あるとしたら単純所持方面で児童ポルノと認定し得るのかという問題になっていくでしょう、という話になります。

　というのも、児ポ法における児童とは、当たり前のことですが実在する児童とそれに関連したコンテンツの諸事や販売に対する規制なのであって、ここでいう「みだりに児童ポルノを所持し」は、AIで生成された児童が仮に18歳に満たない外見に由来する画像であったとしても、それが18歳未満であるかを法的に確定させる術がないので「そう見えるから処罰」というウルトラ技でも編み出されない限り生成AIによって創出された児童ポルノ紛いの代物も当然児ポ法での処罰の対象とならないと見受けられるからです。

児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律

（定義）
第二条　この法律において「児童」とは、十八歳に満たない者をいう。
２　この法律において「児童買春」とは、次の各号に掲げる者に対し、対償を供与し、又はその供与の約束をして、当該児童に対し、性交等（性交若しくは性交類似行為をし、又は自己の性的好奇心を満たす目的で、児童の性器等（性器、肛門又は乳首をいう。以下同じ。）を触り、若しくは児童に自己の性器等を触らせることをいう。以下同じ。）をすることをいう。
一　児童
二　児童に対する性交等の周旋をした者
三　児童の保護者（親権を行う者、未成年後見人その他の者で、児童を現に監護するものをいう。以下同じ。）又は児童をその支配下に置いている者

　実のところ、生成AIが目立つので今回のような事態がBBCにPixivやPatreon名指しで掲載されるようになっているのですが、他方で、SkebほかNSFWは取り締まりの対象とされるべきかという話はかねて出ています。というのも、イラストはOKだけど生成AIはNGなんて話はまあ通らんでしょというのもあります。

　また、LORAなどの児童モデルをMayaなどCGツール類を使って児童ポルノを生成することは別に生成AIなどなくとも元から存在していたものではありましたから、その点では、かつてネットミームとして話題に良くなった「非実在少女への規制」という割と表現規制の王道のところに立ち入る古典的な議論に戻ってきているとも言えるのです。

　最高に面倒くせえわけですが、かといって、そんなものが氾濫していていいのかというお気持ちや倫理の問題はどこかに必ず存在しますし、元データは何であれそのような児童虐待にも近い形でコンテンツが流通している現実には変わりありませんから、何かしらの線引きをして、それに見合った規制をしましょうという議論にならざるを得ません。つまり、個人間の「同好の士」的なコンテンツ融通は再び地下に戻るよう、既成のサービスを運用する事業者の側にそのような生成AIで違法「まがい」のものを取り扱うな、という流れになります。

　同じようなことは、コンテンツ業界での取引においても先行して発生しており、メルマガでも、記事でも、何度も問題でやんすねと指摘はしてきたつもりなのですが、結果としてこのようなことになるのは実に忸怩たる面もあります。

pixivなど同人マンガ界隈で「クレカ決済拒否」が大変な騒動になっている件について「結果的に」表現規制となってしまう一連の顛末

　そして、これらの問題はもうすでに過去に起こった未来なのであって、とっくに解決不能な状態になっているとも言えます。

　さらに、折の悪いことに同じくBBC発で、ジャニーズ事務所の総帥であったジャニー喜多川さんに関するセックススキャンダルも出ています。ブリカスに変な口の挟まれ方をする謂れはありませんが、ただアカンものはアカンのは事実で、それはまあ善処しないことには話にならんなというところではあるのですが、これらがオンラインでの生成AI創出物のやり取りに対する規制だけでなく、アニメや漫画、ゲームといった各種コンテンツに対する規制となったり、別の形で日本文化全体に対する忌避感に繋がることのないよう慎重に対応をしたいというのが本音です。
 

やまもといちろうメールマガジン「人間迷路」

Vol.408 生成AIとエロでややこしい状況になりつつあるのを嘆きつつ、大学10兆円ファンド騒動の核心やAI規制の動向などを語る回
2023年6月29日発行号　目次

【0. 序文】日本のエロAIが世界を動かす…　ことにはならないかもしれない
【1. インシデント1】「大学10兆円ファンド」でマスコミが盛大にミスリードして起きたこと
【2. インシデント2】AIに規制が必要という話が盛り上がっている件について
【3. 迷子問答】迷路で迷っている者同士のQ&A
【4. インシデント3】いやー、解散総選挙が無くて良かったねって話

 
やまもといちろうメールマガジン「人間迷路」のご購読はこちらから

やまもといちろう

個人投資家、作家。1973年東京都生まれ。慶應義塾大学法学部政治学科卒。東京大学政策ビジョン研究センター客員研究員を経て、情報法制研究所・事務局次長、上席研究員として、社会調査や統計分析にも従事。IT技術関連のコンサルティングや知的財産権管理、コンテンツの企画・制作に携わる一方、高齢社会研究や時事問題の状況調査も。日経ビジネス、文春オンライン、みんなの介護、こどものミライなど多くの媒体に執筆し「ネットビジネスの終わり(Voice select)」、「情報革命バブルの崩壊 (文春新書)」など著書多数。

その他の記事

	メダルの数より大切なことがある ――有森裕子が語る2020年に向けた取り組み（宇野常寛）
	気候が不動産価格に反映される理由（高城剛）
	部屋を活かせば人生が変わる！　「良い部屋」で暮らすための5つの条件（岩崎夏海）
	新「MacBook」を使ってみたらーー「ペタペタ」キーボード礼賛論（西田宗千佳）
	『ズレずに 生き抜く』（文藝春秋）が5月15日刊行されることになりました（やまもといちろう）
	Oculus Go時代に「Second Life」を思い出す（西田宗千佳）
	週刊金融日記 第277号 ＜ビットコイン分裂の経済学、ハードフォーク前夜の決戦に備えよ他＞（藤沢数希）
	『寄生獣・完結編』の思わぬ副産物／『幕が上がる』は和製インターステラーだ！ほか（切通理作）
	そう遠くない未来、僕らは“AI”を通してコミュニケーションするようになるだろう（高城剛）
	自分の心を4色に分ける——苦手な人とうまくつきあう方法（名越康文）
	幻の鳥・ドードーの来日説を裏づける『オランダ商館長の日記』（川端裕人）
	IT野郎が考える「節電」（小寺信良）
	スマホVRの本命「Gear VR」製品版を試す（西田宗千佳）
	ビル・ゲイツと“フィランソロピー”（本田雅一）
	フェイクニュースに騙されないことなど誰にもできない–心理学的メディアリテラシー考（名越康文）