NovelAI のリークは何が問題なのか

2022年10月6日に第三者による不正なアクセスによって、NovelAIの画像生成モデルを盗まれた模様です。

Novel AI models allegedly leaked. from StableDiffusion

NovelAIの画像生成モデルとは

テキストの記述にしたがって高品質な画像を生成する、一般的にはテキストを解釈するテキストエンコーダーと、そのテキストエンコーダーの出力から画像を生成するモデルの2つから構成されている。このような画像生成モデルは Craiyon, DALL·E 2, Stable Diffusion, Midjourney などがある。

NovelAI のリークは何が問題なのか

結論としては、Anlatan社の管理が及ばないNovelAIと同じ画像生成モデルによって、盗用した画像で学習させ作風が盗まれることについて、著作権として問題が表面化すると思われます。

例えば、画像生成モデルを用いれば誰でも同じ作風の絵やイラストを自由に作成できることから、画家やイラストレーター、絵師と呼ばれる人々の仕事を奪う可能性も少なからず存在します。

著作権法で保護するためには

このような盗用した画像で学習させることについて、2019年1月1日に施行された「改正著作権法」によれば、柔軟な権利制限規定が加えられ、インターネットから無断で収集したデータを用いてAIのモデル学習に用いることは「著作権法第三十条の四」によって適法となりました。

（著作物に表現された思想又は感情の享受を目的としない利用）
第三十条の四　著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
一　著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
二　情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
三　前二号に掲げる場合のほか、著作物の表現についての人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理の過程における利用その他の利用（プログラムの著作物にあつては、当該著作物の電子計算機における実行を除く。）に供する場合
出典：e-gov 法令検索

出典：文化庁 著作権法の一部を改正する法律 概要説明資料

ただし、「当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合」とされており、文化庁から示された考え方によればNovelAIの画像生成モデルは、著作物に表現された作風を他人に享受させる目的に該当すると考えられます。

文化庁著作権課：デジタル化・ネットワーク化の進展に対応した柔軟な権利制限規定に関する基本的な考え方（著作権法第30条の４，第47条の４及び第47条の５関係）

これは、連合学習を用いるGoogleが抱えるPrivacy問題と同様に配慮すべきAIの問題です。
Google : Get to know the new Topics API for Privacy Sandbox

関連記事

信頼と人工知能 日本語抄訳
Open AI – ChatGPT に脆弱性診断をやらせてみた。

投稿者: 二本松 哲也

SPbD:Security&Privacy by Design Founder ー OWASP Member ー ITは人々の生活をあらゆる面でより良い方向に変化させること ー 競争原理から共創原理へ