１ 生成AIで問題となる法律
生成AIでは、著作権法との関係が問題とされることがあります。現在提供されている生成AIは、文章・画像・動画など、人間の五感のうち主に視覚または聴覚により感じ取ることが可能な結果を出力し、これが、「思想又は感情を創作的に表現した著作物」（著作権法２条１項１号）に抵触することがあり得るからです。
知的財産に関連する法律としては、特許法・実用新案法、意匠法、商標法などがあるわけですが、特許・実用新案は技術的思想の創作が保護対象であることから（特許法２条１項、実用新案法２条１項）、生成AIのプラットフォーム自体が何かの特許技術を利用していることは考えられますが、個々の出力によって特許権あるいは実用新案権と抵触する事態が生じたり生じなかったり…ということは考えにくいと思われます（生成AIは、技術的には同じものが利用され、入力に応じた出力が変わるだけなので）。また、意匠は、画像が保護対象とされていますが（意匠法２条１項）、意匠にかかる画像の用途が同一または類似であることが意匠権侵害の前提となるため、入力に対して出力を行う生成AIの場面で意匠権侵害が発生することは極めて限定的と考えられます。さらに、商標権との関係では、生成AIの出力が商標的使用となることは想定しにくいため、やはり商標権侵害の場面も想定しにくいと思われます。以上より、主に著作権法との関係が問題となります（ただし、その他に、不正競争防止法の営業秘密との関係や個人情報保護法との関係は問題となります）
２ 機械学習モデル生成時における著作物の利用
現在の生成AIは、ニューラルネットワークをベースとした技術が用いられているため、機械学習モデルを生成する際には、学習データが必要になります。機械学習モデルは、学習データについて、データD1（入力データ）（とラベルL1（出力の正解データ））が対になっており、D1を機械学習モデルに入力したときの出力（ラベルL1）との関係でパラメータを最適化するのが機械学習モデルの生成作業です。そうすると、この作業の過程において、D1をコピーするという過程が発生します。著作権法では、複製権（著作権法２１条）が存在するため、D1に著作権がある場合、データをコピーすることは、著作権に抵触することになります。（ここも議論があると思いますが一旦は複製としました）
これに対し、平成３０年の著作権法改正により、著作権法３０条の４が導入されており（従前もこれに類する規定は存在していました）、これにより、機械学習モデルの生成は許容されると考えられています。
著作権法３０条の４は、一般的に非享受利用の規定とされており、思想又は感情の享受を目的としない利用に対しては、著作権者の利益を害するものではないので、機械学習モデルの生成などのように、人間が思想又は感情の享受を目的としない態様でデータをコピーすることは許容されることになります（「AIと著作権に関する考え方について」，文化庁、リンク）
３ 意図的に学習データの特定の創作的表現を出力させようとする場合
機械学習モデルを生成する際の著作権法３０条の４の適用に際して問題点として議論の対象になるのは、特定のキャラクタや特定の作者のデータを大量に学習させ、それと同一ないし類似の映像などが出力される場合、この行為は許容されるかという問題です。著作権法３０条の４はあくまで機械学習モデルの生成時に適用されるものであり、生成ＡＩによって出力されるものが既存の著作物の複製ないし翻案（ひらたくいえば同一または類似）に該当する場合、生成時には著作権侵害の問題が生じます。しかし、このようなことを意図した場合に、機械学習モデルの生成時に著作権侵害の問題が生じるか、ということがここの問題点です。
これについて、著作権法３０条の４柱書の但書部分「ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。」に該当するものとして、著作権侵害を構成するとすべきではないかとの考え方もあるようです（愛知靖之、「AI生成物・機械学習と著作権法」、パテント2020Vol73No8）※私はこの文献はそのように考えていると理解しました。
一方で、文化庁によると、この場合、そもそも非享受目的ではないと解釈し、著作権法３０条の４の適用がなされないと考えるようです（「AIと著作権に関する考え方について」P20，文化庁、リンク）。
なお、蛇足ですが、著作権法３０条の４柱書の但書部分に該当するような例は、情報解析用に販売されているデータベースの著作物をＡＩ学習目的で複製する場合などが挙げられるようです（「令和５年度著作権セミナー」P39，文化庁，リンク）
４ まとめ
以上のようなところで、生成AIを提供するために、機械学習モデルを構築する場合、特定の著作物を出力させようとするような意図がない限り、原則として著作権法３０条の４で著作物を学習データとして利用することは許容されます。したがって、機械学習モデルを構築する場合は、比較的著作権の制約が少ないというのが実情です。一方で、出力時に著作物と抵触するような出力がされる場合は別途の検討が必要になることに注意が必要です。