生成AIを記事作成や画像生成に利用したいと思ったとき、気になるのがAPIの利用料金です。
外部の生成AI APIは導入しやすく、高性能なモデルをすぐ利用できる一方、処理回数が増えるほど料金も増えていきます。特に、記事作成やアイキャッチ画像の生成を自動化すると、いつの間にか想定以上の費用が発生する可能性があります。
そこで、自宅にあるMacを使い、記事と画像をローカルで生成する環境を構築することにしました。
使用するのは次の2台です。
- M1 Max、メモリ64GBのMacBook Pro
- M4 Pro、メモリ64GBのMac mini
単にMacでローカルLLMを動かすだけではありません。
ConoHa VPSに生成ジョブを登録し、自宅のMacが仕事を受け取って記事や画像を生成し、その結果をVPSへ返す仕組みまで構築します。
ローカル生成AIを使う目的
今回の主な目的は、外部APIの利用料金をできるだけ抑えることです。
ローカルLLMやローカル画像生成を使えば、生成するたびにAPI料金が発生することはありません。
ただし、完全に無料というわけではありません。
必要になるのは主に次のコストです。
- Macを動かすための電気代
- モデルを保存するストレージ
- Mac本体の発熱や消耗
- 環境構築と保守にかかる時間
- モデルごとの利用条件やライセンス確認
外部APIでは生成量に応じて費用が変動しますが、ローカル生成では、すでに所有しているMacの性能を使います。
そのため、毎月の費用を予測しやすくなることが大きな利点です。
2台のMacを使い分ける
今回考えている運用は次のとおりです。
自宅で仕事をしている時間
Mac miniを普段の仕事に使用し、使用していないMacBook ProをローカルAIワーカーとして動かします。
夜間や外出中
MacBook Proは停止するか外へ持ち出し、自宅に残っているMac miniをローカルAIワーカーとして使用します。
つまり、常に同じMacをAI専用機として固定するのではなく、その時間に空いているMacを使います。
これにより、普段の作業を邪魔せず、手元の2台を有効活用できます。
M1 MaxとM4 Proはどちらが強いのか
M4 ProはM1 Maxより新しく、CPU性能では有利になりやすい構成です。
一方、M1 MaxはGPUコア数やメモリ帯域幅に強みがあり、ローカルLLMや画像生成の内容によってはM4 Proより高い性能を発揮する可能性があります。
単純に「新しいM4 Proの方がすべて速い」とは限りません。
実際の性能は次の要素で変わります。
- 使用するモデル
- モデルの量子化方式
- 使用するアプリケーション
- 入力する文章の長さ
- 出力する文章の長さ
- 画像の解像度
- 同時に起動しているアプリ
- メモリプレッシャーやスワップ使用量
そのため、同じモデルと同じ条件で両方のMacを測定し、用途ごとに役割を決める予定です。
VPSから自宅Macへ直接接続しない
VPSから自宅MacのローカルLLMへ直接アクセスする構成も可能です。
しかし、その方法では自宅側に次の対応が必要になります。
- ルーターのポート開放
- 動的IPアドレスへの対応
- 外部からのアクセス制限
- 自宅Mac上のAPI公開
- 不正アクセスへの対策
そこで今回は、VPSから自宅Macへ接続するのではなく、Mac側からVPSへ仕事を取りに行く方式を採用します。
処理の流れは次のようになります。
- VPSに記事生成や画像生成のジョブを登録する
- Mac側のワーカーがVPSへ問い合わせる
- 未処理のジョブがあれば取得する
- Mac上でローカル生成AIを実行する
- 生成結果をVPSへ返す
- VPS側で内容を保存する
- 必要に応じてPayload CMSへ下書き登録する
Mac側からVPSへ通常のHTTPS通信を行うだけなので、自宅回線のポートを公開する必要はありません。
シリーズで構築する内容
このシリーズでは、次の順番で環境を構築します。
- MacでローカルLLMを動かす
- Macでローカル画像生成を行う
- ConoHa VPSと自宅Macを接続する
- 二重処理や通信障害に対応する
- MacBook ProとMac miniを切り替える
- 記事と画像をPayload CMSへ登録する
最初からすべてを自動化するのではなく、まずは一つの文章生成ジョブをMacで処理してVPSへ返すところから始めます。
その後、画像生成、障害対策、2台のMacの切り替え、Payload連携を段階的に追加します。
まとめ
今回構築するのは、単なるローカルLLM環境ではありません。
M1 Max MacBook ProとM4 Pro Mac miniを状況に応じて使い分けながら、VPSから記事生成や画像生成の仕事を依頼できるローカルAIワーカー環境です。
外部APIを完全に否定するわけではありません。
高い品質や処理速度が必要な場合は外部APIを使い、継続的な記事作成や画像生成はローカルで処理するという併用も可能です。
まずは、AppleシリコンMacでローカルLLMを動かすところから始めます。