Tools
संगीत निर्माण
music_generate टूल साझा संगीत-जनरेशन क्षमता के माध्यम से संगीत या ऑडियो बनाता है, जिसे ComfyUI, fal, Google, MiniMax और OpenRouter का समर्थन प्राप्त है।
सेशन-समर्थित एजेंट रन के लिए, music_generate एक बैकग्राउंड कार्य के रूप में शुरू होता है, कार्य लेजर में प्रगति ट्रैक करता है, फिर ट्रैक तैयार होने पर एजेंट को सक्रिय करता है ताकि वह उपयोगकर्ता को बता सके और पूर्ण ऑडियो संलग्न कर सके। पूर्णता एजेंट सेशन के दृश्यमान-जवाब अनुबंध का पालन करता है: कॉन्फ़िगर होने पर स्वचालित अंतिम जवाब, या जब सेशन को संदेश टूल की आवश्यकता हो तब message(action="send")। यदि अनुरोधकर्ता सेशन निष्क्रिय है या उसे सक्रिय करना विफल हो जाता है और जनरेट किया गया ऑडियो अब भी जवाब में मौजूद नहीं है, तो OpenClaw केवल अनुपस्थित ऑडियो के साथ एक आइडेम्पोटेंट प्रत्यक्ष फ़ॉलबैक भेजता है।
त्वरित शुरुआत
साझा प्रदाता-समर्थित
प्रमाणीकरण कॉन्फ़िगर करें
कम-से-कम एक प्रदाता के लिए API कुंजी सेट करें — उदाहरण के लिए
GEMINI_API_KEY या MINIMAX_API_KEY।
डिफ़ॉल्ट मॉडल चुनें (वैकल्पिक)
{ agents: { defaults: { musicGenerationModel: { primary: "google/lyria-3-clip-preview", }, }, },}एजेंट से कहें
"नियॉन शहर में रात की ड्राइव के बारे में एक उत्साहपूर्ण सिंथपॉप ट्रैक जनरेट करें।"
एजेंट स्वचालित रूप से music_generate को कॉल करता है। टूल को अनुमति-सूची में जोड़ने की आवश्यकता नहीं है।
सेशन-समर्थित एजेंट रन के बिना (प्रत्यक्ष/स्थानीय संदर्भों में), टूल इनलाइन चलता है और उसी टूल परिणाम में अंतिम मीडिया पथ लौटाता है।
ComfyUI वर्कफ़्लो
वर्कफ़्लो कॉन्फ़िगर करें
वर्कफ़्लो JSON और प्रॉम्प्ट/आउटपुट नोड के साथ plugins.entries.comfy.config.music कॉन्फ़िगर करें।
क्लाउड प्रमाणीकरण (वैकल्पिक)
Comfy Cloud के लिए, COMFY_API_KEY या COMFY_CLOUD_API_KEY सेट करें।
टूल को कॉल करें
/tool music_generate prompt="मुलायम टेप टेक्सचर वाला गर्म परिवेशी सिंथ लूप"उदाहरण प्रॉम्प्ट:
मुलायम स्ट्रिंग्स और बिना गायन वाला सिनेमाई पियानो ट्रैक जनरेट करें।सूर्योदय के समय रॉकेट लॉन्च करने के बारे में एक ऊर्जावान चिपट्यून लूप जनरेट करें।उपलब्ध प्रदाताओं/मॉडल का निरीक्षण करने के लिए action: "list" और सक्रिय सेशन-समर्थित संगीत कार्य का निरीक्षण करने के लिए action: "status" का उपयोग करें:
/tool music_generate action=list/tool music_generate action=statusप्रत्यक्ष जनरेशन उदाहरण:
/tool music_generate prompt="विनाइल टेक्सचर और हल्की बारिश वाला स्वप्निल लो-फ़ाई हिप हॉप" instrumental=trueसमर्थित प्रदाता
| प्रदाता | डिफ़ॉल्ट मॉडल | संदर्भ इनपुट | समर्थित नियंत्रण | प्रमाणीकरण |
|---|---|---|---|---|
| ComfyUI | workflow |
अधिकतम 1 चित्र | वर्कफ़्लो-परिभाषित संगीत या ऑडियो | COMFY_API_KEY, COMFY_CLOUD_API_KEY |
| fal | fal-ai/minimax-music/v2.6 |
कोई नहीं | lyrics, instrumental, durationSeconds, format |
FAL_KEY या FAL_API_KEY |
lyria-3-clip-preview |
अधिकतम 10 चित्र | lyrics, instrumental, format |
GEMINI_API_KEY, GOOGLE_API_KEY |
|
| MiniMax | music-2.6 |
कोई नहीं | lyrics, instrumental, format (केवल mp3) |
MINIMAX_API_KEY या MiniMax OAuth |
| OpenRouter | google/lyria-3-pro-preview |
अधिकतम 1 चित्र | lyrics, instrumental, durationSeconds, format |
OPENROUTER_API_KEY |
MiniMax समान मॉडल साझा करने वाली दो प्रदाता आईडी पंजीकृत करता है: API-कुंजी प्रमाणीकरण के लिए minimax और OAuth के लिए minimax-portal। मॉडल संदर्भ प्रमाणीकरण पथ का अनुसरण करते हैं (minimax/music-2.6 बनाम minimax-portal/music-2.6); MiniMax देखें।
fal अपने डिफ़ॉल्ट MiniMax-समर्थित मॉडल के साथ fal-ai/ace-step/prompt-to-audio (wav, बिना गीत, बिना इंस्ट्रुमेंटल टॉगल) और fal-ai/stable-audio-25/text-to-audio (wav, केवल प्रॉम्प्ट) भी उपलब्ध कराता है। Google का डिफ़ॉल्ट lyria-3-clip-preview केवल mp3 आउटपुट देता है; lyria-3-pro-preview wav का भी समर्थन करता है। MiniMax music-2.6-free, music-cover और music-cover-free भी उपलब्ध कराता है। OpenRouter google/lyria-3-clip-preview भी उपलब्ध कराता है।
क्षमता मैट्रिक्स
music_generate, अनुबंध परीक्षणों और साझा लाइव स्वीप द्वारा उपयोग किया जाने वाला स्पष्ट मोड अनुबंध:
| प्रदाता | generate |
edit |
संपादन सीमा | साझा लाइव लेन |
|---|---|---|---|---|
| ComfyUI | ✓ | ✓ | 1 चित्र | साझा स्वीप में नहीं; extensions/comfy/comfy.live.test.ts द्वारा कवर किया गया |
| fal | ✓ | — | कोई नहीं | generate |
| ✓ | ✓ | 10 चित्र | generate, edit |
|
| MiniMax | ✓ | — | कोई नहीं | generate |
| OpenRouter | ✓ | ✓ | 1 चित्र | generate, edit |
टूल पैरामीटर
promptstringrequiredसंगीत जनरेशन प्रॉम्प्ट। action: "generate" के लिए आवश्यक।
action"generate" | "status" | "list"default: generate"status" वर्तमान सेशन कार्य लौटाता है; "list" प्रदाताओं का निरीक्षण करता है।
modelstringप्रदाता/मॉडल ओवरराइड (जैसे google/lyria-3-pro-preview,
comfy/workflow)।
lyricsstringजब प्रदाता स्पष्ट गीत इनपुट का समर्थन करे, तब वैकल्पिक गीत।
instrumentalbooleanजब प्रदाता इसका समर्थन करे, तब केवल वाद्य आउटपुट का अनुरोध करें।
imagestringएकल संदर्भ चित्र पथ या URL।
imagesstring[]एकाधिक संदर्भ चित्र (समर्थित प्रदाताओं पर अधिकतम 10)।
durationSecondsnumberजब प्रदाता अवधि संकेतों का समर्थन करे, तब सेकंड में लक्ष्य अवधि।
format"mp3" | "wav"जब प्रदाता इसका समर्थन करे, तब आउटपुट फ़ॉर्मेट संकेत।
filenamestringप्रदाता अनुरोध टाइमआउट केवल ऑपरेटर कॉन्फ़िगरेशन हैं। कॉन्फ़िगर होने पर OpenClaw agents.defaults.mediaModels.music.timeoutMs का उपयोग करता है, 120000ms से कम मानों को बढ़ाकर 120000ms करता है और अन्यथा प्रदाता अनुरोधों के लिए डिफ़ॉल्ट रूप से 300000ms का उपयोग करता है।
एसिंक व्यवहार
सेशन-समर्थित संगीत जनरेशन बैकग्राउंड कार्य के रूप में चलता है:
- बैकग्राउंड कार्य:
music_generateबैकग्राउंड कार्य बनाता है, तुरंत शुरू हुआ/कार्य जवाब लौटाता है और बाद में फ़ॉलो-अप एजेंट संदेश में पूर्ण ट्रैक पोस्ट करता है। - डुप्लिकेट रोकथाम: जब कोई कार्य
queuedयाrunningहो, तब उसी सेशन में बाद कीmusic_generateकॉल नया जनरेशन शुरू करने के बजाय कार्य स्थिति लौटाती हैं। स्पष्ट रूप से जाँचने के लिएaction: "status"का उपयोग करें। हाल ही में पूर्ण हुआ समान अनुरोध भी 2 मिनट के लिए डुप्लिकेट-मुक्त किया जाता है। - स्थिति लुकअप:
openclaw tasks listयाopenclaw tasks show <taskId>कतारबद्ध, चालू और अंतिम स्थिति का निरीक्षण करता है। - पूर्णता सक्रियण: OpenClaw उसी सेशन में एक आंतरिक पूर्णता इवेंट वापस इंजेक्ट करता है, ताकि मॉडल स्वयं उपयोगकर्ता-दृश्यमान फ़ॉलो-अप लिख सके।
- प्रॉम्प्ट संकेत: उसी सेशन में बाद के उपयोगकर्ता/मैन्युअल टर्न को एक छोटा रनटाइम संकेत मिलता है, जब संगीत कार्य पहले से प्रगति पर हो, ताकि मॉडल बिना सोचे
music_generateको दोबारा कॉल न करे। - बिना-सेशन फ़ॉलबैक: वास्तविक एजेंट सेशन के बिना प्रत्यक्ष/स्थानीय संदर्भ इनलाइन चलते हैं और उसी टर्न में अंतिम ऑडियो परिणाम लौटाते हैं।
कार्य जीवनचक्र
संगीत कार्य सामान्य कार्य रजिस्ट्री जैसी ही स्थितियाँ दिखाता है (पूर्ण स्थिति मशीन के लिए बैकग्राउंड कार्य देखें, जिसमें timed_out, cancelled और lost शामिल हैं)। अधिकांश संगीत रन इन अवस्थाओं से गुजरते हैं:
| स्थिति | अर्थ |
|---|---|
queued |
कार्य बनाया गया है और प्रदाता द्वारा स्वीकार किए जाने की प्रतीक्षा कर रहा है। |
running |
प्रदाता प्रोसेस कर रहा है (प्रदाता और अवधि के आधार पर आमतौर पर 30 सेकंड से 3 मिनट)। |
succeeded |
ट्रैक तैयार है; एजेंट सक्रिय होता है और उसे वार्तालाप में पोस्ट करता है। |
failed |
प्रदाता त्रुटि या टाइमआउट; एजेंट त्रुटि विवरण के साथ सक्रिय होता है। |
CLI से स्थिति जाँचें:
openclaw tasks listopenclaw tasks show <taskId>openclaw tasks cancel <taskId>कॉन्फ़िगरेशन
मॉडल चयन
{ agents: { defaults: { musicGenerationModel: { primary: "google/lyria-3-clip-preview", fallbacks: ["fal/fal-ai/minimax-music/v2.6", "minimax/music-2.6"], }, }, },}प्रदाता चयन क्रम
OpenClaw प्रदाताओं को इस क्रम में आज़माता है:
- टूल कॉल से
modelपैरामीटर (यदि एजेंट कोई निर्दिष्ट करता है)। - कॉन्फ़िगरेशन से
musicGenerationModel.primary। - क्रम में
musicGenerationModel.fallbacks। - केवल प्रमाणीकरण-समर्थित प्रदाता डिफ़ॉल्ट का उपयोग करके स्वतः-पहचान:
- पहले वर्तमान डिफ़ॉल्ट टेक्स्ट-मॉडल प्रदाता, यदि वह संगीत जनरेशन भी प्रदान करता है;
- शेष पंजीकृत संगीत-जनरेशन प्रदाता, प्रदाता आईडी के अनुसार वर्णानुक्रम में।
यदि कोई प्रदाता विफल होता है, तो अगला उम्मीदवार स्वचालित रूप से आज़माया जाता है। यदि सभी विफल होते हैं, तो त्रुटि में प्रत्येक प्रयास का विवरण शामिल होता है।
प्रमाणीकृत प्रदाताओं के बीच स्वचालित फ़ॉलबैक हमेशा सक्षम रहता है। प्रति-कॉल model प्रामाणिक बना रहता है।
प्रदाता संबंधी टिप्पणियाँ
ComfyUI
यह वर्कफ़्लो-संचालित है और प्रॉम्प्ट/आउटपुट फ़ील्ड के लिए कॉन्फ़िगर किए गए ग्राफ़ तथा नोड मैपिंग
पर निर्भर करता है। बंडल किया गया comfy Plugin, संगीत-जनरेशन प्रदाता
रजिस्ट्री के माध्यम से साझा music_generate टूल से जुड़ता है।
fal
साझा प्रदाता प्रमाणीकरण पथ के माध्यम से fal मॉडल एंडपॉइंट का उपयोग करता है। बंडल
किया गया प्रदाता डिफ़ॉल्ट रूप से fal-ai/minimax-music/v2.6 का उपयोग करता है और प्रॉम्प्ट-से-ऑडियो अनुरोधों के लिए
fal-ai/ace-step/prompt-to-audio तथा
fal-ai/stable-audio-25/text-to-audio भी उपलब्ध कराता है।
गीत और वाद्य मोड केवल MiniMax मॉडल के लिए हैं; अन्य दोनों
मॉडल केवल प्रॉम्प्ट का समर्थन करते हैं।
Google (Lyria 3)
Lyria 3 बैच जनरेशन का उपयोग करता है। वर्तमान बंडल किया गया प्रवाह
प्रॉम्प्ट, वैकल्पिक गीत-पाठ और वैकल्पिक संदर्भ छवियों का समर्थन करता है।
डिफ़ॉल्ट lyria-3-clip-preview मॉडल केवल mp3 आउटपुट देता है;
lyria-3-pro-preview मॉडल wav का भी समर्थन करता है।
MiniMax
बैच music_generation एंडपॉइंट का उपयोग करता है। प्रॉम्प्ट, वैकल्पिक
गीत, वाद्य मोड और minimax
API-कुंजी प्रमाणीकरण या minimax-portal OAuth के माध्यम से mp3 आउटपुट का समर्थन करता है। music-2.6-free,
music-cover और music-cover-free मॉडल भी उपलब्ध कराता है।
OpenRouter
स्ट्रीमिंग सक्षम करके OpenRouter चैट कम्प्लीशन्स ऑडियो आउटपुट का उपयोग करता है।
बंडल किया गया प्रदाता डिफ़ॉल्ट रूप से google/lyria-3-pro-preview का उपयोग करता है और
openrouter/google/lyria-3-clip-preview भी उपलब्ध कराता है।
सही पथ चुनना
- साझा प्रदाता-समर्थित जब आपको मॉडल चयन, प्रदाता फ़ेलओवर और अंतर्निहित असिंक्रोनस कार्य/स्थिति प्रवाह चाहिए।
- Plugin पथ (ComfyUI) जब आपको कस्टम वर्कफ़्लो ग्राफ़ या ऐसा प्रदाता चाहिए जो साझा बंडल की गई संगीत क्षमता का भाग नहीं है।
यदि आप ComfyUI-विशिष्ट व्यवहार डीबग कर रहे हैं, तो ComfyUI देखें। यदि आप साझा प्रदाता व्यवहार डीबग कर रहे हैं, तो fal, Google (Gemini), MiniMax या OpenRouter से शुरू करें।
प्रदाता क्षमता मोड
साझा संगीत-जनरेशन अनुबंध स्पष्ट मोड घोषणाओं का समर्थन करता है:
generateकेवल-प्रॉम्प्ट जनरेशन के लिए।editजब अनुरोध में एक या अधिक संदर्भ छवियाँ शामिल हों।
नए प्रदाता कार्यान्वयनों को स्पष्ट मोड ब्लॉक को प्राथमिकता देनी चाहिए:
capabilities: { generate: { maxTracks: 1, supportsLyrics: true, supportsFormat: true, }, edit: { enabled: true, maxTracks: 1, maxInputImages: 1, supportsFormat: true, },}maxInputImages, supportsLyrics और
supportsFormat जैसे पुराने समतल फ़ील्ड संपादन समर्थन घोषित करने के लिए पर्याप्त नहीं हैं। प्रदाताओं
को generate और edit स्पष्ट रूप से घोषित करने चाहिए, ताकि लाइव परीक्षण, अनुबंध
परीक्षण और साझा music_generate टूल मोड समर्थन को
नियतात्मक रूप से सत्यापित कर सकें।
लाइव परीक्षण
साझा बंडल किए गए प्रदाताओं (fal, Google, MiniMax, OpenRouter) के लिए वैकल्पिक लाइव कवरेज:
OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/music-generation-providers.live.test.tsसमतुल्य रिपॉज़िटरी रैपर, जो उसी परीक्षण फ़ाइल को चलाता है:
pnpm test:live:media:musicयह लाइव फ़ाइल डिफ़ॉल्ट रूप से संग्रहीत प्रमाणीकरण
प्रोफ़ाइलों से पहले पहले से निर्यात किए गए प्रदाता परिवेश चर का उपयोग करती है और प्रदाता द्वारा संपादन मोड सक्षम किए जाने पर
generate तथा घोषित edit दोनों का कवरेज चलाती है। वर्तमान कवरेज:
google:generateऔरeditfal: केवलgenerateminimax: केवलgenerateopenrouter:generateऔरeditcomfy: अलग Comfy लाइव कवरेज, साझा प्रदाता स्वीप नहीं
बंडल किए गए ComfyUI संगीत पथ के लिए वैकल्पिक लाइव कवरेज:
OPENCLAW_LIVE_TEST=1 COMFY_LIVE_TEST=1 pnpm test:live -- extensions/comfy/comfy.live.test.tsकॉन्फ़िगर किए जाने पर Comfy लाइव फ़ाइल, Comfy छवि और वीडियो वर्कफ़्लो अनुभागों को भी कवर करती है।
संबंधित
- पृष्ठभूमि कार्य — अलग किए गए
music_generateरन की कार्य ट्रैकिंग - ComfyUI
- कॉन्फ़िगरेशन संदर्भ —
musicGenerationModelकॉन्फ़िगरेशन - Google (Gemini)
- MiniMax
- मॉडल — मॉडल कॉन्फ़िगरेशन और फ़ेलओवर
- टूल का अवलोकन