GPT-4o

Tổng quan

GPT-4o là mô hình đa phương thức của OpenAI, cung cấp ngữ cảnh 128K với hỗ trợ đầu vào văn bản, hình ảnh và âm thanh. cached_input tự động lưu vào bộ nhớ đệm các tiền tố với giá giảm một nửa. Là bản nâng cấp đa phương thức của GPT-4 Turbo, nó cung cấp giá trị và tốc độ tốt hơn so với tiền nhiệm.

Khả năng

128K ngữ cảnh; cached_input tự động lưu vào bộ nhớ đệm (50% đầu vào); Function Calling; Structured Output; hiểu hình ảnh; chế độ JSON; đầu vào âm thanh; Batch API giá rẻ một nửa.

Trường hợp sử dụng

Hội thoại đa phương thức; hiểu biết hình ảnh; tạo mã; trích xuất dữ liệu có cấu trúc; hỗ trợ khách hàng doanh nghiệp; hỏi đáp trên cơ sở dữ liệu tri thức; tương tác bằng giọng nói.

Hạn chế

Không tạo hình ảnh (sử dụng DALL·E); không hỗ trợ cache_write bản địa; tăng độ đồng thời cao yêu cầu tăng hạn mức; max_tokens bị giới hạn ở 16K.

Ví dụ

export ANTHROPIC_AUTH_TOKEN="YOUR_API_KEY"
export ANTHROPIC_BASE_URL="https://api.robovai.com"
export ANTHROPIC_MODEL="gpt-4o"
claude