- ComfyUIバックエンド + Gradioフロントエンドを使用したAgent駆動の3Dバイオニック製品デザイナー。
- 参照したい生物の名前、画像、およびデザイン対象(テーブル、椅子、小型展示館など)を入力するだけで、対応するバイオニック製品を生成し、テキスト、画像、3Dモデルを出力します。
- LLM / LVMモデルは、入力情報を最初に解析し、「デザインコンセプトテキスト」→「ビジュアル説明テキスト」→「プロンプト」→「2D画像出力」→「3Dモデル出力」の手順で自律的にデザインを完成させます。
- すべての計算はオープンソースモデルを使用してローカルで実行され、APIやインターネット接続は不要です(インストール後)。
3D_bio_desigenr_demo_mute-3x.mp4
- comfyuiをインストール
- comfyui-managerをインストール
- comfyuiを実行し、ワークフローファイルを読み込み、comfyui-managerを使用して不足しているプラグインをインストールしてください。
- インストールできない場合は、手動でインストールしてください。必要なcomfyuiプラグイン:Comfyui-Ollama-Describer, comfyui-3D-pack, comfyui-mixlab-nodes, Comfyui-Easy-Use
ollamaのインストール
pip install gradio numpy Pillow websocket-client pymeshlab
- ollamaを起動
- Comfyuiを起動し、ワークフローファイルを読み込み、comfyui内で正常に動作するかテストします。
- app.py内のserver_addressをComfyuiのアドレスに変更します。例:
server_address = "127.0.0.1:8188"
- app.py内のcomfyui_output_pathをComfyuiの出力パスに変更します。例:
comfyui_output_path = "D:/01_DL/ComfyUI_windows_portable/ComfyUI/output"
。これにより、GradioフロントエンドがComfyUIの出力にアクセスできるようになります。 - Gradioフロントエンドを起動します。
python app.py
- 127.0.0.1:7860にアクセスして、実行インターフェースを開きます。