AZ8編集部の実測ガイド

AI動画に日本語をしゃべらせる。7モデルで試した結果

音声付きで動画を生成できるモデルが増え、プロンプトに書いた日本語のセリフを人物に話させられるようになりました。同じセリフを7つのモデルで生成し、実際にどう聞こえるかを確かめました。

最終更新日 AZ8編集部

日本語のセリフを話させるなら、どのモデル?

今回の実測では、Seedance 2.5とKling 4.0が2つのセリフを一字一句そのまま話しました。Seedance 2.0、Wan 3.0、Gemini Omni Flashも、書き起こしの表記の違いや語尾の一音を除けば指示どおりです。どのモデルも、セリフを「」で囲んで書けば日本語で話します。

  • 7モデルすべてが、指示したセリフを日本語で話した
  • Seedance 2.5とKling 4.0は誤りゼロ。駅のアナウンスまで日本語で入った
  • 各モデル1回だけ生成し、選び直しはしていない

同じセリフを7モデルで生成した結果

下のプロンプトを各モデルで1回ずつ生成し、音声をwhisper(mediumモデル)で書き起こしました。誤差率は、指示したセリフとの文字の違いを、セリフの文字数で割った値です。

プロンプト

夕方の駅のホームで、制服姿の女子高生が友達に振り向いて、日本語ではっきりと「また明日ね、遅れないでよ」と言う。友達は笑って「わかってるって」と答える。電車の到着音と駅のアナウンス。

指示したセリフ

  • 「また明日ね、遅れないでよ」
  • 「わかってるって」
モデル書き起こし(Whisper)文字誤り率
Seedance 2.5また明日ね 遅れないでよ わかってるって0%
Kling 4.0また明日ね 遅れないでよわかってるって0%
Seedance 2.0また明日ね、遅れないでよ 分かってるって6%
Wan 3.0また明日ね。送れないでよ。 わかってるって。6%
Gemini Omni Flashまた明日ね遅れないでよ わかってるってよ6%
MiniMax H3また明日ねおこれないでよ わかってるって11%
Veo 3.1 Liteこれ、また明日ね。遅れないでよ。分かってるって。17%

Seedance 2.5

  • 16:9
  • 720p
  • 8秒

2つのセリフを一字一句そのまま話しました。プロンプトで指定した駅のアナウンス「まもなく1番線に電車が参ります」も日本語で入っています(誤差率の計算からは除外)。

Kling 4.0

  • 16:9
  • 720p
  • 8秒

2つのセリフを一字一句そのまま話しました。冒頭には駅のアナウンス「ご注意ください、電車が参ります」も日本語で入っています(誤差率の計算からは除外)。2人が向かい合う構図も自然です。

Seedance 2.0

  • 16:9
  • 720p
  • 8秒

セリフは指示どおりです。誤差は「わかって」が「分かって」と書き起こされた表記の違いだけで、音は同じです。

Wan 3.0

  • 16:9
  • 720p
  • 8秒

「遅れないで」が「送れないで」と書き起こされましたが、どちらも読みは「おくれないで」です。音としてはセリフどおりです。

Gemini Omni Flash

  • 16:9
  • 720p
  • 8秒

2つのセリフをほぼそのまま話しました。違いは、語尾に「よ」が1音加わった点だけです。

MiniMax H3

  • 16:9
  • 768p
  • 8秒

「わかってるって」は正確です。「遅れないで」は「おこれないで」と聞こえました。7モデルの中で唯一、1344×768の広い画面で出力されます。

Veo 3.1 Lite

  • 16:9
  • 720p
  • 8秒

2つのセリフはどちらも聞き取れる日本語です。セリフの前に「これ」という一言が加わりました。7モデルの中で最も少ないクレジットで試せます。

日本語のセリフが崩れにくいプロンプトの書き方

  1. 01

    セリフは「」で囲む

    地の文とセリフを分けると、どこを声に出すのかがモデルに伝わります。今回のプロンプトも、2つのセリフを「」で囲んでいます。

    女子高生が「また明日ね、遅れないでよ」と言う。

  2. 02

    「日本語で」と明記する

    話す言語を書いておくと、英語や別の言語に置き換わるのを防げます。「はっきりと」など話し方も添えると、聞き取りやすくなります。

    日本語ではっきりと話す。

  3. 03

    1カットのセリフは短く

    5〜10秒の動画に入るのは、短いセリフ2つ程度です。長い会話は、セリフごとにカットを分けて生成してつなぎます。

    1カットにつき1〜2文

目的別に選ぶなら

Seedance 2.5

セリフの正確さを最優先に

今回の実測で、誤りなく話した2モデルの1つです。1回で最長30秒なので、会話のあるシーンをカットを割らずに作れます。

Seedance 2.5の詳細を見る

MiniMax H3

日本語対応が明記されたモデル

開発元が、日本語を含む11言語でセリフが安定すると明記しています。21:9の横長や2Kにも対応しています。

MiniMax H3の詳細を見る

Kling 4.0

セリフのあるシネマティックなシーン

今回の実測で、誤りなく話したもう1つのモデルです。最長30秒、21:9の横長にも対応しています。

Kling 4.0の詳細を見る

Seedance 2.0

4Kで仕上げるCMやドラマ

今回の実測でもセリフは指示どおりでした。AZ8で4Kを選べるので、話す人物のアップも高精細に残せます。

Seedance 2.0の詳細を見る

日本語のセリフについてよくある質問

動画生成AIは日本語に対応していますか?

今回試した7モデルは、どれもプロンプトに書いた日本語のセリフを日本語で話しました。開発元が日本語への対応を明記しているのはMiniMax H3です。ほかのモデルも、日本語のプロンプトをそのまま入力できます。

AI動画の人物に日本語をしゃべらせるには?

音声付きで生成できるモデルを選び、セリフを「」で囲んでプロンプトに書きます。「日本語で」と言語を明記し、話し方を添えると、意図どおりになりやすくなります。

実測の結果は毎回同じになりますか?

同じプロンプトでも、生成のたびに結果は変わります。今回は各モデル1回だけ生成した結果で、選び直しはしていません。思いどおりにならないときは、同じプロンプトでもう一度生成すると改善することがあります。

誤差率はどうやって計算していますか?

生成した動画の音声をwhisperで書き起こし、句読点と空白を除いて、指示したセリフとの文字の違い(編集距離)をセリフの文字数で割りました。漢字とかなの表記の違いも1文字の違いとして数えています。

声や話し方は指定できますか?

「小さな声で」「元気よく」などの話し方は、プロンプトに書けば反映されやすくなります。特定の声に近づけたい場合は、音声を参照素材として渡せるモデル(Seedance 2.5、Seedance 2.0、Wan 3.0、MiniMax H3など)を使います。

生成した動画は商用利用できますか?

AZ8の利用規約では、法令、第三者の権利、生成前に表示されるモデル固有の条件を守る範囲で、生成した動画の商用利用が認められています。実在の人物の声や顔を真似た生成は避けてください。