「AIの出力で使われたデータの寄与度って推定できるの？」

この知恵で考えられること

- shigeyamaさん - noteのアライアンス統括の責任者 - senko

こんなときに

雑な質問で恐縮ですが、

プロンプトの結果から、AIデータ学習されたコンテンツがどの程度寄与したのか類推することは現実的に可能ですかね？

実際にそういうプロダクトが出ている（っぽい）ので。

この手のやつを1年前くらいに閉じたプロジェクトとして出版社からオーダーもらって技術検証したことありますが、

厳密には、学習に使ったコンテンツのうち今回の出力にどれが寄与したのかというAIの推論利用の事実確認は不可能で、

リンク先のサービスも学習データの寄与度判定としては厳密ではないと思います。

とはいえ著作権ビジネスとして展開することは可能で、現実的には以下の3つのやり方がありました。

モデルとデータの関係性で報酬を決める

モデル開発時に書籍データを利用でき、どのモデルがどの書籍データで作られているかを紐付けておき、関与したコンテンツに一律で貢献をカウントする。
出力内容から学習コンテンツを類推する

出力結果をクエリにして、引用されていると思われるコンテンツをElastic searchなどで判定し、判定上位Nに対して貢献をカウントする。
非常に大きなRAG（Retrieval-Augmented Generation）でやる

モデル学習ではなく巨大な参照データベースへの自動変換を行い、リトリーバーとLLMを組み合わせたものをAPIで提供。

この場合、確定的に寄与コンテンツの特定が可能。

当時は3が有力かつクイックウィン、将来的に2に進化する、が妥当でした。

これはモデルの推論能力や速度に依存しない構造的な問題なので今でもほぼ同じ結論になるかと。

また、日本の法規として出版におけるデータ利用は、書籍のように売ると価格面で厳しいため、

あくまでもプラットフォームサービスとして見せないと難しい。

著者との同意が必要なケースも多く、特定出版社の全コンテンツが一気に増えることはなく、

実績を出しつつもコンテンツ量が揃うまでにリードタイムが必要。

みたいな感じでした！

ありがとうございます。

という理解で合っていますか？

モデル生成事業者である必要はありません！

やり方1, 2はモデル開発の役割になる、またはモデル開発プラットフォーマーになる必要があります。

やり方3はその必要はなく、究極的には明日からでもできます。

個人的には、LLMにおけるIPマネジメントポジションは、出版社を強く巻き込めるならアリだと思います。

noteの出版データから始められそうですが、データは少ないので、できても本と会話できるモデルを作り、

その利用に対して著者に還元するくらいのスタートになると思います。