BytePlus公式パートナーByteDanceのグループ企業 BytePlus
BytePlus公式パートナー · OmniHuman 2.0
AIリップシンク: 写真と音声で話す動画に
写真をアップロードして音声を追加すると、KreatorFlowのリップシンクが写真の人物に一語ずつ話させたり歌わせたりします。表情やしぐさも自然です。ByteDanceの音声駆動型モデルOmniHuman 2.0で動き、1本で最長5分まで作れます。
- 最長5分
- 会話・歌・ラップ
- 人物・キャラクター・ペット
- 720pまたは1080p
- 1秒4クレジットから
最終更新:
このページの内容
AIリップシンクでできること
リップシンクAIは、人物の画像と話す内容の2つから、その人物が話している動画を作ります。KreatorFlowのリップシンクは、ByteDanceの最新の音声駆動型動画モデルOmniHuman 2.0を使っています。KreatorFlowはByteDanceのグループ企業であるBytePlusの公式パートナーで、BytePlusを通じてこのモデルを動かしています。
音声駆動型とは、音が動画を導くという意味です。多くの動画生成AIはテキストから映像を作り、あとから音を足しますが、ここでは声が演技全体を形づくります。口は言葉に合い、強調に合わせて眉や頭が動き、間はきちんと間に見え、歌はただ口を動かすのではなく歌い上げます。テキストの指示は任意で、笑顔、うなずき、ゆっくりしたカメラの寄りなど、音声では伝えられない部分だけを補います。
1回の生成で最長5分まで作れるので、講演、レッスン、商品紹介、1曲まるごとを、短いクリップをつなぐのではなく同じ顔のまま1本で仕上げられます。
3ステップでリップシンク動画を作る
- 1
写真を追加する
人物、キャラクター、ペットのはっきりした写真を1枚アップロードするか、アップロード済みの画像、生成結果、保存したキャラクターから選びます。顔がひとつで、ほぼ正面を向き、口が隠れていない写真がおすすめです。
- 2
音声を追加する
台本を入力して内蔵の音声を選ぶか、MP3やWAVを追加します。自分の録音、歌、オーディオスタジオで作った音声(クローンした声も含む)が使えます。長さは4秒から5分までです。
- 3
生成してダウンロード
720pか1080pを選び、必要ならしぐさやカメラの指示を書いて生成します。料金は先に表示されます(720pは1秒4クレジット、1080pは1秒6クレジット)。動画は音声と同じ長さで、ライブラリに保存されます。
主な機能
1本で最長5分
4秒から5分の音声に対応し、動画は音声とまったく同じ長さになります。
会話、歌、ラップ
会話、ナレーション、歌、速いラップまで。口の形、抑揚、感情が音声に合わせて動きます。
人物、キャラクター、ペット
ポートレート、アニメやイラストのキャラクター、3Dキャラクター、空想の生き物、動物に対応します。
どの言語でも
モデルは音に合わせて動くため、日本語でも英語でも、音声があればどの言語やなまりでも使えます。
演技の指示
最大2,000文字で、しぐさ、感情、カメラの動き、背景の様子を指示できます。
720pまたは1080p
720pは1秒4クレジット、1080pは1秒6クレジット。生成前に表示されます。
声の用意のしかた
内蔵の音声: 話させたい内容を入力し、リップシンク画面にある英語の音声から選びます。まずテキスト読み上げで音声を作り(1,000文字あたり2クレジット)、続けて動画を作ります。
自分の録音: スマートフォンで録音してMP3やWAVで書き出し、アップロードします。雑音の少ないクリアな声ほど、口の動きがはっきりします。
オーディオスタジオの音声: 日本語の声は日本語のAI音声合成で作れます。作った音声はリップシンクの音声選択に表示されます。
歌: 権利を持っているボーカル音源をアップロードします。ミックス済みの音源しかない場合は、音楽が控えめなバージョンのほうがうまくいきます。
リップシンク動画の料金
音声の秒数(切り上げ)ごとのクレジットです。スタジオが実際に消費するのと同じコードから計算しています。
| 音声の長さ | 720p | 1080p |
|---|---|---|
| 4秒 | 16クレジット | 24クレジット |
| 10秒 | 40クレジット | 60クレジット |
| 30秒 | 120クレジット | 180クレジット |
| 1分 | 240クレジット | 360クレジット |
| 5分 | 1,200クレジット | 1,800クレジット |
リップシンクには有料アカウントが必要です。プランはCreatorの初月$19から、クレジットパックは$8から使えます。失敗した動画のクレジットは自動で戻ります。すべてのプランは料金ページでご覧ください。
よくある使い方
- ブランドの写真1枚から作る商品紹介や広告のナレーター
- すべての回に同じ講師が登場する講座や研修動画
- 写真と自分の声で作る誕生日やお礼のメッセージ
- キャラクターとボーカル音源から作るミュージックビデオやバーチャルシンガー
- 1枚の写真から作る、複数の言語の同じメッセージ
- 顔の見えるオーディオブック、ポッドキャスト、ニュースのコーナー
- SNS投稿用のしゃべるマスコット、ペット、キャラクター
自然に仕上げるコツ
- 顔がひとつだけはっきり写った、ピントの合った写真を使う。アップや上半身の写真が向いています。
- 口元とあごを隠さない。手、マイク、髪が唇にかからないようにします。
- クリアな音声を使う。雑音や大きな音楽があると口の動きが不正確になります。
- 指示は動きだけを普通の文で書く。例:「彼女はほほえみ、話しながらカメラに身を乗り出す」。写真にすでに写っているものは書きません。
- 長い1080pの動画を作る前に、短いセリフを720pで試す。
責任ある使い方
自分自身、または許可を得た人物の写真だけを使ってください。実在の人物を話させるには本人の同意が必要で、他人になりすますことはできません。声や音楽も、使う権利のあるものに限ります。禁止されている内容は利用ポリシー(英語)に記載しています。
AIリップシンクのよくある質問
AIリップシンクとは何ですか?
静止画と音声から、写真の人物がその音声を話したり歌ったりする動画を作る技術です。KreatorFlowではByteDanceの音声駆動型の動画モデルOmniHuman 2.0を使い、唇が一語ずつ合うだけでなく、顔、頭、上半身も声のリズムや感情に合わせて動きます。
どのくらいの長さの動画が作れますか?
動画は音声と同じ長さで、1回の生成で4秒から5分までです。プレゼン、レッスン、ポッドキャストの一場面、1曲まるごとを1本で作れます。
料金はいくらですか?
音声1秒あたり720pで4クレジット、1080pで6クレジットです。秒単位で切り上げ、最低4秒から計算します。10秒のクリップは720pで40クレジット、1分なら240クレジットです。正確な料金は生成前に表示され、失敗した動画のクレジットは戻ります。
有料プランは必要ですか?
はい。リップシンクはすべての有料プランとクレジットパックで使えます。プランはCreatorの初月$19から、クレジットパックは$8(160クレジット)からです。どちらの解像度も有料アカウントならすべて使えます。料金は米ドル表示です。
話すだけでなく歌わせることもできますか?
はい。OmniHuman 2.0は会話だけでなく歌や速いラップにも対応し、口の形、抑揚、感情が曲に合わせて動きます。ボーカルの音源をアップロードしてください。伴奏が少ないクリアなボーカルほど、口の動きが正確になります。
日本語の音声でも使えますか?
はい。モデルは音声の響きに合わせて動くので、日本語を含むどの言語の音声でも使えます。リップシンク画面の内蔵音声は英語なので、日本語の声はオーディオスタジオで作るか、自分の録音をアップロードしてください。
アニメのキャラクターや動物にも使えますか?
はい。実在の人物の写真のほか、アニメやイラストのキャラクター、3Dキャラクター、空想の生き物、猫やアライグマなどの動物も、顔がはっきりしていれば動かせます。
他人の写真を使ってもいいですか?
本人の許可がある場合に限ります。写真の本人であるか、話させることについて本人の同意を得ている必要があり、声や音楽を使う権利も必要です。新しい写真ごとにサイト上で確認をお願いしています。有名人や公人の写真は許可なく使えません。性的な内容や未成年者に関わる内容も禁止です。