Tools

संगीत निर्माण

music_generate टूल साझा संगीत-जनरेशन क्षमता के माध्यम से संगीत या ऑडियो बनाता है, जिसे ComfyUI, fal, Google, MiniMax और OpenRouter का समर्थन प्राप्त है।

सेशन-समर्थित एजेंट रन के लिए, music_generate एक बैकग्राउंड कार्य के रूप में शुरू होता है, कार्य लेजर में प्रगति ट्रैक करता है, फिर ट्रैक तैयार होने पर एजेंट को सक्रिय करता है ताकि वह उपयोगकर्ता को बता सके और पूर्ण ऑडियो संलग्न कर सके। पूर्णता एजेंट सेशन के दृश्यमान-जवाब अनुबंध का पालन करता है: कॉन्फ़िगर होने पर स्वचालित अंतिम जवाब, या जब सेशन को संदेश टूल की आवश्यकता हो तब message(action="send")। यदि अनुरोधकर्ता सेशन निष्क्रिय है या उसे सक्रिय करना विफल हो जाता है और जनरेट किया गया ऑडियो अब भी जवाब में मौजूद नहीं है, तो OpenClaw केवल अनुपस्थित ऑडियो के साथ एक आइडेम्पोटेंट प्रत्यक्ष फ़ॉलबैक भेजता है।

त्वरित शुरुआत

साझा प्रदाता-समर्थित

  • प्रमाणीकरण कॉन्फ़िगर करें

    कम-से-कम एक प्रदाता के लिए API कुंजी सेट करें — उदाहरण के लिए GEMINI_API_KEY या MINIMAX_API_KEY

  • डिफ़ॉल्ट मॉडल चुनें (वैकल्पिक)

    json5
    {  agents: {    defaults: {      musicGenerationModel: {        primary: "google/lyria-3-clip-preview",      },    },  },}
  • एजेंट से कहें

    "नियॉन शहर में रात की ड्राइव के बारे में एक उत्साहपूर्ण सिंथपॉप ट्रैक जनरेट करें।"

    एजेंट स्वचालित रूप से music_generate को कॉल करता है। टूल को अनुमति-सूची में जोड़ने की आवश्यकता नहीं है।

  • सेशन-समर्थित एजेंट रन के बिना (प्रत्यक्ष/स्थानीय संदर्भों में), टूल इनलाइन चलता है और उसी टूल परिणाम में अंतिम मीडिया पथ लौटाता है।

    ComfyUI वर्कफ़्लो

  • वर्कफ़्लो कॉन्फ़िगर करें

    वर्कफ़्लो JSON और प्रॉम्प्ट/आउटपुट नोड के साथ plugins.entries.comfy.config.music कॉन्फ़िगर करें।

  • क्लाउड प्रमाणीकरण (वैकल्पिक)

    Comfy Cloud के लिए, COMFY_API_KEY या COMFY_CLOUD_API_KEY सेट करें।

  • टूल को कॉल करें

    text
    /tool music_generate prompt="मुलायम टेप टेक्सचर वाला गर्म परिवेशी सिंथ लूप"
  • उदाहरण प्रॉम्प्ट:

    text
    मुलायम स्ट्रिंग्स और बिना गायन वाला सिनेमाई पियानो ट्रैक जनरेट करें।
    text
    सूर्योदय के समय रॉकेट लॉन्च करने के बारे में एक ऊर्जावान चिपट्यून लूप जनरेट करें।

    उपलब्ध प्रदाताओं/मॉडल का निरीक्षण करने के लिए action: "list" और सक्रिय सेशन-समर्थित संगीत कार्य का निरीक्षण करने के लिए action: "status" का उपयोग करें:

    text
    /tool music_generate action=list/tool music_generate action=status

    प्रत्यक्ष जनरेशन उदाहरण:

    text
    /tool music_generate prompt="विनाइल टेक्सचर और हल्की बारिश वाला स्वप्निल लो-फ़ाई हिप हॉप" instrumental=true

    समर्थित प्रदाता

    प्रदाता डिफ़ॉल्ट मॉडल संदर्भ इनपुट समर्थित नियंत्रण प्रमाणीकरण
    ComfyUI workflow अधिकतम 1 चित्र वर्कफ़्लो-परिभाषित संगीत या ऑडियो COMFY_API_KEY, COMFY_CLOUD_API_KEY
    fal fal-ai/minimax-music/v2.6 कोई नहीं lyrics, instrumental, durationSeconds, format FAL_KEY या FAL_API_KEY
    Google lyria-3-clip-preview अधिकतम 10 चित्र lyrics, instrumental, format GEMINI_API_KEY, GOOGLE_API_KEY
    MiniMax music-2.6 कोई नहीं lyrics, instrumental, format (केवल mp3) MINIMAX_API_KEY या MiniMax OAuth
    OpenRouter google/lyria-3-pro-preview अधिकतम 1 चित्र lyrics, instrumental, durationSeconds, format OPENROUTER_API_KEY

    MiniMax समान मॉडल साझा करने वाली दो प्रदाता आईडी पंजीकृत करता है: API-कुंजी प्रमाणीकरण के लिए minimax और OAuth के लिए minimax-portal। मॉडल संदर्भ प्रमाणीकरण पथ का अनुसरण करते हैं (minimax/music-2.6 बनाम minimax-portal/music-2.6); MiniMax देखें।

    fal अपने डिफ़ॉल्ट MiniMax-समर्थित मॉडल के साथ fal-ai/ace-step/prompt-to-audio (wav, बिना गीत, बिना इंस्ट्रुमेंटल टॉगल) और fal-ai/stable-audio-25/text-to-audio (wav, केवल प्रॉम्प्ट) भी उपलब्ध कराता है। Google का डिफ़ॉल्ट lyria-3-clip-preview केवल mp3 आउटपुट देता है; lyria-3-pro-preview wav का भी समर्थन करता है। MiniMax music-2.6-free, music-cover और music-cover-free भी उपलब्ध कराता है। OpenRouter google/lyria-3-clip-preview भी उपलब्ध कराता है।

    क्षमता मैट्रिक्स

    music_generate, अनुबंध परीक्षणों और साझा लाइव स्वीप द्वारा उपयोग किया जाने वाला स्पष्ट मोड अनुबंध:

    प्रदाता generate edit संपादन सीमा साझा लाइव लेन
    ComfyUI 1 चित्र साझा स्वीप में नहीं; extensions/comfy/comfy.live.test.ts द्वारा कवर किया गया
    fal कोई नहीं generate
    Google 10 चित्र generate, edit
    MiniMax कोई नहीं generate
    OpenRouter 1 चित्र generate, edit

    टूल पैरामीटर

    promptstringrequired

    संगीत जनरेशन प्रॉम्प्ट। action: "generate" के लिए आवश्यक।

    action"generate" | "status" | "list"default: generate

    "status" वर्तमान सेशन कार्य लौटाता है; "list" प्रदाताओं का निरीक्षण करता है।

    modelstring

    प्रदाता/मॉडल ओवरराइड (जैसे google/lyria-3-pro-preview, comfy/workflow)।

    lyricsstring

    जब प्रदाता स्पष्ट गीत इनपुट का समर्थन करे, तब वैकल्पिक गीत।

    instrumentalboolean

    जब प्रदाता इसका समर्थन करे, तब केवल वाद्य आउटपुट का अनुरोध करें।

    imagestring

    एकल संदर्भ चित्र पथ या URL।

    imagesstring[]

    एकाधिक संदर्भ चित्र (समर्थित प्रदाताओं पर अधिकतम 10)।

    durationSecondsnumber

    जब प्रदाता अवधि संकेतों का समर्थन करे, तब सेकंड में लक्ष्य अवधि।

    format"mp3" | "wav"

    जब प्रदाता इसका समर्थन करे, तब आउटपुट फ़ॉर्मेट संकेत।

    filenamestring

    प्रदाता अनुरोध टाइमआउट केवल ऑपरेटर कॉन्फ़िगरेशन हैं। कॉन्फ़िगर होने पर OpenClaw agents.defaults.mediaModels.music.timeoutMs का उपयोग करता है, 120000ms से कम मानों को बढ़ाकर 120000ms करता है और अन्यथा प्रदाता अनुरोधों के लिए डिफ़ॉल्ट रूप से 300000ms का उपयोग करता है।

    एसिंक व्यवहार

    सेशन-समर्थित संगीत जनरेशन बैकग्राउंड कार्य के रूप में चलता है:

    • बैकग्राउंड कार्य: music_generate बैकग्राउंड कार्य बनाता है, तुरंत शुरू हुआ/कार्य जवाब लौटाता है और बाद में फ़ॉलो-अप एजेंट संदेश में पूर्ण ट्रैक पोस्ट करता है।
    • डुप्लिकेट रोकथाम: जब कोई कार्य queued या running हो, तब उसी सेशन में बाद की music_generate कॉल नया जनरेशन शुरू करने के बजाय कार्य स्थिति लौटाती हैं। स्पष्ट रूप से जाँचने के लिए action: "status" का उपयोग करें। हाल ही में पूर्ण हुआ समान अनुरोध भी 2 मिनट के लिए डुप्लिकेट-मुक्त किया जाता है।
    • स्थिति लुकअप: openclaw tasks list या openclaw tasks show <taskId> कतारबद्ध, चालू और अंतिम स्थिति का निरीक्षण करता है।
    • पूर्णता सक्रियण: OpenClaw उसी सेशन में एक आंतरिक पूर्णता इवेंट वापस इंजेक्ट करता है, ताकि मॉडल स्वयं उपयोगकर्ता-दृश्यमान फ़ॉलो-अप लिख सके।
    • प्रॉम्प्ट संकेत: उसी सेशन में बाद के उपयोगकर्ता/मैन्युअल टर्न को एक छोटा रनटाइम संकेत मिलता है, जब संगीत कार्य पहले से प्रगति पर हो, ताकि मॉडल बिना सोचे music_generate को दोबारा कॉल न करे।
    • बिना-सेशन फ़ॉलबैक: वास्तविक एजेंट सेशन के बिना प्रत्यक्ष/स्थानीय संदर्भ इनलाइन चलते हैं और उसी टर्न में अंतिम ऑडियो परिणाम लौटाते हैं।

    कार्य जीवनचक्र

    संगीत कार्य सामान्य कार्य रजिस्ट्री जैसी ही स्थितियाँ दिखाता है (पूर्ण स्थिति मशीन के लिए बैकग्राउंड कार्य देखें, जिसमें timed_out, cancelled और lost शामिल हैं)। अधिकांश संगीत रन इन अवस्थाओं से गुजरते हैं:

    स्थिति अर्थ
    queued कार्य बनाया गया है और प्रदाता द्वारा स्वीकार किए जाने की प्रतीक्षा कर रहा है।
    running प्रदाता प्रोसेस कर रहा है (प्रदाता और अवधि के आधार पर आमतौर पर 30 सेकंड से 3 मिनट)।
    succeeded ट्रैक तैयार है; एजेंट सक्रिय होता है और उसे वार्तालाप में पोस्ट करता है।
    failed प्रदाता त्रुटि या टाइमआउट; एजेंट त्रुटि विवरण के साथ सक्रिय होता है।

    CLI से स्थिति जाँचें:

    bash
    openclaw tasks listopenclaw tasks show <taskId>openclaw tasks cancel <taskId>

    कॉन्फ़िगरेशन

    मॉडल चयन

    json5
    {  agents: {    defaults: {      musicGenerationModel: {        primary: "google/lyria-3-clip-preview",        fallbacks: ["fal/fal-ai/minimax-music/v2.6", "minimax/music-2.6"],      },    },  },}

    प्रदाता चयन क्रम

    OpenClaw प्रदाताओं को इस क्रम में आज़माता है:

    1. टूल कॉल से model पैरामीटर (यदि एजेंट कोई निर्दिष्ट करता है)।
    2. कॉन्फ़िगरेशन से musicGenerationModel.primary
    3. क्रम में musicGenerationModel.fallbacks
    4. केवल प्रमाणीकरण-समर्थित प्रदाता डिफ़ॉल्ट का उपयोग करके स्वतः-पहचान:
      • पहले वर्तमान डिफ़ॉल्ट टेक्स्ट-मॉडल प्रदाता, यदि वह संगीत जनरेशन भी प्रदान करता है;
      • शेष पंजीकृत संगीत-जनरेशन प्रदाता, प्रदाता आईडी के अनुसार वर्णानुक्रम में।

    यदि कोई प्रदाता विफल होता है, तो अगला उम्मीदवार स्वचालित रूप से आज़माया जाता है। यदि सभी विफल होते हैं, तो त्रुटि में प्रत्येक प्रयास का विवरण शामिल होता है।

    प्रमाणीकृत प्रदाताओं के बीच स्वचालित फ़ॉलबैक हमेशा सक्षम रहता है। प्रति-कॉल model प्रामाणिक बना रहता है।

    प्रदाता संबंधी टिप्पणियाँ

    ComfyUI

    यह वर्कफ़्लो-संचालित है और प्रॉम्प्ट/आउटपुट फ़ील्ड के लिए कॉन्फ़िगर किए गए ग्राफ़ तथा नोड मैपिंग पर निर्भर करता है। बंडल किया गया comfy Plugin, संगीत-जनरेशन प्रदाता रजिस्ट्री के माध्यम से साझा music_generate टूल से जुड़ता है।

    fal

    साझा प्रदाता प्रमाणीकरण पथ के माध्यम से fal मॉडल एंडपॉइंट का उपयोग करता है। बंडल किया गया प्रदाता डिफ़ॉल्ट रूप से fal-ai/minimax-music/v2.6 का उपयोग करता है और प्रॉम्प्ट-से-ऑडियो अनुरोधों के लिए fal-ai/ace-step/prompt-to-audio तथा fal-ai/stable-audio-25/text-to-audio भी उपलब्ध कराता है। गीत और वाद्य मोड केवल MiniMax मॉडल के लिए हैं; अन्य दोनों मॉडल केवल प्रॉम्प्ट का समर्थन करते हैं।

    Google (Lyria 3)

    Lyria 3 बैच जनरेशन का उपयोग करता है। वर्तमान बंडल किया गया प्रवाह प्रॉम्प्ट, वैकल्पिक गीत-पाठ और वैकल्पिक संदर्भ छवियों का समर्थन करता है। डिफ़ॉल्ट lyria-3-clip-preview मॉडल केवल mp3 आउटपुट देता है; lyria-3-pro-preview मॉडल wav का भी समर्थन करता है।

    MiniMax

    बैच music_generation एंडपॉइंट का उपयोग करता है। प्रॉम्प्ट, वैकल्पिक गीत, वाद्य मोड और minimax API-कुंजी प्रमाणीकरण या minimax-portal OAuth के माध्यम से mp3 आउटपुट का समर्थन करता है। music-2.6-free, music-cover और music-cover-free मॉडल भी उपलब्ध कराता है।

    OpenRouter

    स्ट्रीमिंग सक्षम करके OpenRouter चैट कम्प्लीशन्स ऑडियो आउटपुट का उपयोग करता है। बंडल किया गया प्रदाता डिफ़ॉल्ट रूप से google/lyria-3-pro-preview का उपयोग करता है और openrouter/google/lyria-3-clip-preview भी उपलब्ध कराता है।

    सही पथ चुनना

    • साझा प्रदाता-समर्थित जब आपको मॉडल चयन, प्रदाता फ़ेलओवर और अंतर्निहित असिंक्रोनस कार्य/स्थिति प्रवाह चाहिए।
    • Plugin पथ (ComfyUI) जब आपको कस्टम वर्कफ़्लो ग्राफ़ या ऐसा प्रदाता चाहिए जो साझा बंडल की गई संगीत क्षमता का भाग नहीं है।

    यदि आप ComfyUI-विशिष्ट व्यवहार डीबग कर रहे हैं, तो ComfyUI देखें। यदि आप साझा प्रदाता व्यवहार डीबग कर रहे हैं, तो fal, Google (Gemini), MiniMax या OpenRouter से शुरू करें।

    प्रदाता क्षमता मोड

    साझा संगीत-जनरेशन अनुबंध स्पष्ट मोड घोषणाओं का समर्थन करता है:

    • generate केवल-प्रॉम्प्ट जनरेशन के लिए।
    • edit जब अनुरोध में एक या अधिक संदर्भ छवियाँ शामिल हों।

    नए प्रदाता कार्यान्वयनों को स्पष्ट मोड ब्लॉक को प्राथमिकता देनी चाहिए:

    typescript
    capabilities: {  generate: {    maxTracks: 1,    supportsLyrics: true,    supportsFormat: true,  },  edit: {    enabled: true,    maxTracks: 1,    maxInputImages: 1,    supportsFormat: true,  },}

    maxInputImages, supportsLyrics और supportsFormat जैसे पुराने समतल फ़ील्ड संपादन समर्थन घोषित करने के लिए पर्याप्त नहीं हैं। प्रदाताओं को generate और edit स्पष्ट रूप से घोषित करने चाहिए, ताकि लाइव परीक्षण, अनुबंध परीक्षण और साझा music_generate टूल मोड समर्थन को नियतात्मक रूप से सत्यापित कर सकें।

    लाइव परीक्षण

    साझा बंडल किए गए प्रदाताओं (fal, Google, MiniMax, OpenRouter) के लिए वैकल्पिक लाइव कवरेज:

    bash
    OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/music-generation-providers.live.test.ts

    समतुल्य रिपॉज़िटरी रैपर, जो उसी परीक्षण फ़ाइल को चलाता है:

    bash
    pnpm test:live:media:music

    यह लाइव फ़ाइल डिफ़ॉल्ट रूप से संग्रहीत प्रमाणीकरण प्रोफ़ाइलों से पहले पहले से निर्यात किए गए प्रदाता परिवेश चर का उपयोग करती है और प्रदाता द्वारा संपादन मोड सक्षम किए जाने पर generate तथा घोषित edit दोनों का कवरेज चलाती है। वर्तमान कवरेज:

    • google: generate और edit
    • fal: केवल generate
    • minimax: केवल generate
    • openrouter: generate और edit
    • comfy: अलग Comfy लाइव कवरेज, साझा प्रदाता स्वीप नहीं

    बंडल किए गए ComfyUI संगीत पथ के लिए वैकल्पिक लाइव कवरेज:

    bash
    OPENCLAW_LIVE_TEST=1 COMFY_LIVE_TEST=1 pnpm test:live -- extensions/comfy/comfy.live.test.ts

    कॉन्फ़िगर किए जाने पर Comfy लाइव फ़ाइल, Comfy छवि और वीडियो वर्कफ़्लो अनुभागों को भी कवर करती है।

    संबंधित

    Was this useful?
    On this page

    On this page