CLI suy luận

OmeniaClaw infer là giao diện headless chuẩn cho các quy trình suy luận được hỗ trợ bởi nhà cung cấp.

Nó cố ý phơi bày các nhóm năng lực, không phải tên RPC Gateway thô và cũng không phải id công cụ tác nhân thô.

Biến infer thành một skill

Sao chép và dán nội dung này vào một tác nhân:

Read https://omeniaclaw.com/cli/infer, then create a skill that routes my common workflows to `OmeniaClaw infer`.Focus on model runs, image generation, video generation, audio transcription, TTS, web search, and embeddings.

Một skill dựa trên infer tốt nên:

• ánh xạ các ý định phổ biến của người dùng tới đúng lệnh con infer
• bao gồm một vài ví dụ infer chuẩn cho các quy trình mà nó bao phủ
• ưu tiên OmeniaClaw infer ... trong ví dụ và gợi ý
• tránh ghi lại toàn bộ bề mặt infer trong phần thân skill

Phạm vi điển hình của skill tập trung vào infer:

• OmeniaClaw infer model run
• OmeniaClaw infer image generate
• OmeniaClaw infer audio transcribe
• OmeniaClaw infer tts convert
• OmeniaClaw infer web search
• OmeniaClaw infer embedding create

Vì sao dùng infer

OmeniaClaw infer cung cấp một CLI nhất quán cho các tác vụ suy luận được hỗ trợ bởi nhà cung cấp bên trong OmeniaClaw.

Lợi ích:

• Dùng các nhà cung cấp và mô hình đã được cấu hình trong OmeniaClaw thay vì nối các wrapper dùng một lần cho từng backend.
• Giữ các quy trình mô hình, hình ảnh, phiên âm âm thanh, TTS, video, web và embedding trong cùng một cây lệnh.
• Dùng dạng đầu ra --json ổn định cho script, tự động hóa và các quy trình do tác nhân điều khiển.
• Ưu tiên bề mặt OmeniaClaw chính chủ khi tác vụ về cơ bản là "chạy suy luận".
• Dùng đường dẫn cục bộ bình thường mà không cần Gateway cho hầu hết các lệnh infer.

Đối với kiểm tra nhà cung cấp đầu-cuối, hãy ưu tiên OmeniaClaw infer ... sau khi các kiểm thử nhà cung cấp cấp thấp hơn đã xanh. Nó thực thi CLI đã phát hành, việc tải cấu hình, phân giải tác nhân mặc định, kích hoạt Plugin đi kèm và runtime năng lực dùng chung trước khi yêu cầu nhà cung cấp được thực hiện.

Cây lệnh

 OmeniaClaw infer  list  inspect   model    run    list    inspect    providers    auth login    auth logout    auth status   image    generate    edit    describe    describe-many    providers   audio    transcribe    providers   tts    convert    voices    providers    status    enable    disable    set-provider   video    generate    describe    providers   web    search    fetch    providers   embedding    create    providers

Tác vụ phổ biến

Bảng này ánh xạ các tác vụ suy luận phổ biến tới lệnh infer tương ứng.

Hành vi

• OmeniaClaw infer ... là bề mặt CLI chính cho các quy trình này.
• Dùng --json khi đầu ra sẽ được tiêu thụ bởi lệnh hoặc script khác.
• Dùng --provider hoặc --model provider/model khi cần một backend cụ thể.
• Dùng model run --thinking <level> để truyền mức thinking/reasoning một lần (off, minimal, low, medium, high, adaptive, xhigh, hoặc max) trong khi giữ lượt chạy ở dạng thô.
• Với image describe, audio transcribe và video describe, --model phải dùng dạng <provider/model>.
• Với image describe, một --model rõ ràng sẽ chạy trực tiếp nhà cung cấp/mô hình đó. Mô hình phải có khả năng ảnh trong danh mục mô hình hoặc cấu hình nhà cung cấp. codex/<model> chạy một lượt hiểu hình ảnh có giới hạn của máy chủ ứng dụng Codex; openai-codex/<model> dùng đường dẫn nhà cung cấp OAuth OpenAI Codex.
• Các lệnh thực thi không trạng thái mặc định là cục bộ.
• Các lệnh trạng thái do Gateway quản lý mặc định là Gateway.
• Đường dẫn cục bộ bình thường không yêu cầu Gateway đang chạy.
• model run cục bộ là một lượt hoàn thành nhà cung cấp một lần, gọn nhẹ. Nó phân giải mô hình tác nhân và thông tin xác thực đã cấu hình, nhưng không bắt đầu một lượt chat-agent, tải công cụ, hoặc mở các máy chủ MCP đi kèm.
• model run --file chấp nhận tệp hình ảnh, phát hiện MIME type của chúng và gửi chúng cùng prompt đã cung cấp tới mô hình được chọn. Lặp lại --file cho nhiều ảnh.
• model run --file từ chối đầu vào không phải hình ảnh. Dùng infer audio transcribe cho tệp âm thanh và infer video describe cho tệp video.
• model run --gateway thực thi định tuyến Gateway, xác thực đã lưu, lựa chọn nhà cung cấp và runtime nhúng, nhưng vẫn chạy như một probe mô hình thô: nó gửi prompt đã cung cấp và mọi tệp đính kèm hình ảnh mà không có transcript phiên trước đó, ngữ cảnh bootstrap/AGENTS, lắp ráp context-engine, công cụ hoặc máy chủ MCP đi kèm.
• model run --gateway --model <provider/model> yêu cầu thông tin xác thực Gateway của toán tử đáng tin cậy vì yêu cầu này đề nghị Gateway chạy một ghi đè nhà cung cấp/mô hình một lần.
• model run --thinking cục bộ dùng đường dẫn hoàn thành nhà cung cấp gọn nhẹ; các mức riêng của nhà cung cấp như adaptive và max được ánh xạ tới mức hoàn thành đơn giản, di động gần nhất.

Mô hình

Dùng model cho suy luận văn bản được hỗ trợ bởi nhà cung cấp và kiểm tra mô hình/nhà cung cấp.

OmeniaClaw infer model run --prompt "Reply with exactly: smoke-ok" --jsonOmeniaClaw infer model run --prompt "Summarize this changelog entry" --model openai/gpt-5.4 --jsonOmeniaClaw infer model run --prompt "Describe this image in one sentence" --file ./photo.jpg --model google/gemini-2.5-flash --jsonOmeniaClaw infer model run --prompt "Use more reasoning here" --thinking high --jsonOmeniaClaw infer model providers --jsonOmeniaClaw infer model inspect --name gpt-5.5 --json

Dùng ref đầy đủ <provider/model> để smoke-test một nhà cung cấp cụ thể mà không khởi động Gateway hoặc tải toàn bộ bề mặt công cụ tác nhân:

OmeniaClaw infer model run --local --model anthropic/claude-sonnet-4-6 --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model cerebras/zai-glm-4.7 --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model google/gemini-2.5-flash --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model groq/llama-3.1-8b-instant --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model mistral/mistral-medium-3-5 --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model mistral/mistral-small-latest --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model openai/gpt-4.1 --prompt "Reply with exactly: pong" --jsonOmeniaClaw infer model run --local --model ollama/qwen2.5vl:7b --prompt "Describe this image." --file ./photo.jpg --json

Ghi chú:

• model run cục bộ là smoke CLI hẹp nhất cho tình trạng nhà cung cấp/mô hình/xác thực vì, với các nhà cung cấp không phải Codex, nó chỉ gửi prompt đã cung cấp tới mô hình được chọn.
• model run --model <provider/model> cục bộ có thể dùng chính xác các hàng danh mục tĩnh đi kèm từ models list --all trước khi nhà cung cấp đó được ghi vào cấu hình. Xác thực nhà cung cấp vẫn bắt buộc; thiếu thông tin xác thực sẽ thất bại dưới dạng lỗi xác thực, không phải Unknown model.
• Với các probe reasoning Mistral Medium 3.5, hãy để temperature chưa đặt/mặc định. Mistral từ chối reasoning_effort="high" cộng với temperature: 0; dùng mistral/mistral-medium-3-5 với temperature mặc định hoặc một giá trị chế độ reasoning khác không, chẳng hạn 0.7.
• Các probe cục bộ openai-codex/* là ngoại lệ hẹp: OmeniaClaw thêm một chỉ dẫn hệ thống tối thiểu để transport Codex Responses có thể điền trường instructions bắt buộc của nó, mà không thêm ngữ cảnh tác nhân đầy đủ, công cụ, bộ nhớ hoặc transcript phiên.
• model run --file cục bộ giữ đường dẫn gọn nhẹ đó và đính kèm trực tiếp nội dung hình ảnh vào một tin nhắn người dùng duy nhất. Các tệp hình ảnh phổ biến như PNG, JPEG và WebP hoạt động khi MIME type của chúng được phát hiện là image/*; tệp không được hỗ trợ hoặc không nhận diện được sẽ thất bại trước khi nhà cung cấp được gọi.
• model run --file phù hợp nhất khi bạn muốn kiểm thử trực tiếp mô hình văn bản đa phương thức đã chọn. Dùng infer image describe khi bạn muốn lựa chọn nhà cung cấp hiểu hình ảnh và định tuyến mô hình ảnh mặc định của OmeniaClaw.
• Mô hình được chọn phải hỗ trợ đầu vào hình ảnh; mô hình chỉ văn bản có thể từ chối yêu cầu ở lớp nhà cung cấp.
• model run --prompt phải chứa văn bản không chỉ là khoảng trắng; prompt rỗng bị từ chối trước khi các nhà cung cấp cục bộ hoặc Gateway được gọi.
• model run cục bộ thoát khác 0 khi nhà cung cấp không trả về đầu ra văn bản, để các nhà cung cấp cục bộ không thể truy cập và các lượt hoàn thành rỗng không trông giống như probe thành công.
• Dùng model run --gateway khi bạn cần kiểm thử định tuyến Gateway, thiết lập agent-runtime hoặc trạng thái nhà cung cấp do Gateway quản lý trong khi giữ đầu vào mô hình thô. Dùng OmeniaClaw agent hoặc các bề mặt chat khi bạn muốn ngữ cảnh tác nhân đầy đủ, công cụ, bộ nhớ và transcript phiên.
• model auth login, model auth logout và model auth status quản lý trạng thái xác thực nhà cung cấp đã lưu.

Hình ảnh

Dùng image cho tạo, chỉnh sửa và mô tả.

OmeniaClaw infer image generate --prompt "friendly lobster illustration" --jsonOmeniaClaw infer image generate --prompt "cinematic product photo of headphones" --jsonOmeniaClaw infer image generate --model openai/gpt-image-1.5 --output-format png --background transparent --prompt "simple red circle sticker on a transparent background" --jsonOmeniaClaw infer image generate --prompt "slow image backend" --timeout-ms 180000 --jsonOmeniaClaw infer image edit --file ./logo.png --model openai/gpt-image-1.5 --output-format png --background transparent --prompt "keep the logo, remove the background" --jsonOmeniaClaw infer image edit --file ./poster.png --prompt "make this a vertical story ad" --size 2160x3840 --aspect-ratio 9:16 --resolution 4K --jsonOmeniaClaw infer image describe --file ./photo.jpg --jsonOmeniaClaw infer image describe --file ./receipt.jpg --prompt "Extract the merchant, date, and total" --jsonOmeniaClaw infer image describe-many --file ./before.png --file ./after.png --prompt "Compare the screenshots and list visible UI changes" --jsonOmeniaClaw infer image describe --file ./ui-screenshot.png --model openai/gpt-4.1-mini --jsonOmeniaClaw infer image describe --file ./photo.jpg --model ollama/qwen2.5vl:7b --prompt "Describe the image in one sentence" --timeout-ms 300000 --json

Ghi chú:

• Dùng image edit khi bắt đầu từ các tệp đầu vào hiện có.

• Dùng --size, --aspect-ratio hoặc --resolution với image edit cho các nhà cung cấp/mô hình hỗ trợ gợi ý hình học khi chỉnh sửa ảnh tham chiếu.

• Dùng --output-format png --background transparent với --model openai/gpt-image-1.5 cho đầu ra PNG nền trong suốt của OpenAI; --openai-background vẫn có sẵn dưới dạng bí danh riêng cho OpenAI. Các nhà cung cấp không khai báo hỗ trợ nền sẽ báo cáo gợi ý này là một ghi đè bị bỏ qua.

• Dùng image providers --json để xác minh các nhà cung cấp hình ảnh đi kèm nào có thể được phát hiện, đã cấu hình, được chọn, và mỗi nhà cung cấp cung cấp những khả năng tạo/chỉnh sửa nào.

• Dùng image generate --model <provider/model> --json làm kiểm thử khói CLI trực tiếp hẹp nhất cho các thay đổi về tạo ảnh. Ví dụ:

  OmeniaClaw infer image providers --jsonOmeniaClaw infer image generate \  --model google/gemini-3.1-flash-image-preview \  --prompt "Minimal flat test image: one blue square on a white background, no text." \  --output ./OmeniaClaw-infer-image-smoke.png \  --json

  Phản hồi JSON báo cáo ok, provider, model, attempts và các đường dẫn đầu ra đã ghi. Khi đặt --output, phần mở rộng cuối cùng có thể tuân theo kiểu MIME do nhà cung cấp trả về.

• Với image describe và image describe-many, dùng --prompt để cung cấp cho mô hình thị giác một chỉ dẫn theo tác vụ như OCR, so sánh, kiểm tra UI hoặc tạo chú thích ngắn gọn.

• Dùng --timeout-ms với các mô hình thị giác cục bộ chậm hoặc các lần khởi động lạnh của Ollama.

• Với image describe, --model phải là một <provider/model> có khả năng xử lý hình ảnh.

• Với các mô hình thị giác Ollama cục bộ, hãy tải mô hình trước và đặt OLLAMA_API_KEY thành bất kỳ giá trị giữ chỗ nào, ví dụ ollama-local. Xem Ollama.

Âm thanh

Dùng audio để chép lời tệp.

OmeniaClaw infer audio transcribe --file ./memo.m4a --jsonOmeniaClaw infer audio transcribe --file ./team-sync.m4a --language en --prompt "Focus on names and action items" --jsonOmeniaClaw infer audio transcribe --file ./memo.m4a --model openai/whisper-1 --json

Ghi chú:

• audio transcribe dùng để chép lời tệp, không dùng để quản lý phiên thời gian thực.
• --model phải là <provider/model>.

TTS

Dùng tts để tổng hợp giọng nói và trạng thái nhà cung cấp TTS.

OmeniaClaw infer tts convert --text "hello from OmeniaClaw" --output ./hello.mp3 --jsonOmeniaClaw infer tts convert --text "Your build is complete" --output ./build-complete.mp3 --jsonOmeniaClaw infer tts providers --jsonOmeniaClaw infer tts status --json

Ghi chú:

• tts status mặc định dùng Gateway vì nó phản ánh trạng thái TTS do Gateway quản lý.
• Dùng tts providers, tts voices và tts set-provider để kiểm tra và cấu hình hành vi TTS.

Video

Dùng video để tạo và mô tả.

OmeniaClaw infer video generate --prompt "cinematic sunset over the ocean" --jsonOmeniaClaw infer video generate --prompt "slow drone shot over a forest lake" --resolution 768P --duration 6 --jsonOmeniaClaw infer video describe --file ./clip.mp4 --jsonOmeniaClaw infer video describe --file ./clip.mp4 --model openai/gpt-4.1-mini --json

Ghi chú:

• video generate chấp nhận --size, --aspect-ratio, --resolution, --duration, --audio, --watermark và --timeout-ms, rồi chuyển tiếp chúng đến runtime tạo video.
• --model phải là <provider/model> cho video describe.

Web

Dùng web cho các quy trình tìm kiếm và tải nội dung.

OmeniaClaw infer web search --query "OmeniaClaw docs" --jsonOmeniaClaw infer web search --query "OmeniaClaw infer web providers" --jsonOmeniaClaw infer web fetch --url https://omeniaclaw.com/cli/infer --jsonOmeniaClaw infer web providers --json

Ghi chú:

• Dùng web providers để kiểm tra các nhà cung cấp có sẵn, đã cấu hình và được chọn.

Embedding

Dùng embedding để tạo vector và kiểm tra nhà cung cấp embedding.

OmeniaClaw infer embedding create --text "friendly lobster" --jsonOmeniaClaw infer embedding create --text "customer support ticket: delayed shipment" --model openai/text-embedding-3-large --jsonOmeniaClaw infer embedding providers --json

Đầu ra JSON

Các lệnh Infer chuẩn hóa đầu ra JSON trong một phong bì chung:

{  "ok": true,  "capability": "image.generate",  "transport": "local",  "provider": "openai",  "model": "gpt-image-2",  "attempts": [],  "outputs": []}

Các trường cấp cao nhất là ổn định:

• ok
• capability
• transport
• provider
• model
• attempts
• outputs
• error

Với các lệnh tạo phương tiện, outputs chứa các tệp do OmeniaClaw ghi. Hãy dùng path, mimeType, size và mọi kích thước riêng theo loại phương tiện trong mảng đó cho tự động hóa thay vì phân tích stdout dành cho người đọc.

Các lỗi thường gặp

# BadOmeniaClaw infer media image generate --prompt "friendly lobster" # GoodOmeniaClaw infer image generate --prompt "friendly lobster"

# BadOmeniaClaw infer audio transcribe --file ./memo.m4a --model whisper-1 --json # GoodOmeniaClaw infer audio transcribe --file ./memo.m4a --model openai/whisper-1 --json

Ghi chú

• OmeniaClaw capability ... là bí danh cho OmeniaClaw infer ....

Liên quan

• Tham chiếu CLI
• Mô hình