公司动态
从API到本地部署:BU-30B-A3B-Preview的两种高效使用方式对比
从API到本地部署BU-30B-A3B-Preview的两种高效使用方式对比【免费下载链接】bu-30b-a3b-preview项目地址: https://ai.gitcode.com/hf_mirrors/browser-use/bu-30b-a3b-previewBU-30B-A3B-Preview是一款基于Qwen3-VL-30B-A3B-Instruct开发的视觉语言模型通过混合专家MoE架构实现了300亿总参数与30亿活跃参数的高效平衡特别优化了浏览器使用场景下的DOM理解和视觉推理能力。本文将详细对比API调用与本地部署两种使用方式帮助你快速选择最适合的方案。 方案一BU Cloud API调用适合快速上手注册与API密钥获取访问BU Cloud获取API密钥设置环境变量export BROWSER_USE_API_KEYyour-key安装依赖pip install browser-use python-dotenv核心代码示例from dotenv import load_dotenv from browser_use import Agent, ChatBrowserUse load_dotenv() llm ChatBrowserUse( modelbrowser-use/bu-30b-a3b-preview, # 使用开源模型 ) agent Agent( task分析网页结构并提取关键信息, llmllm, flash_modeTrue # 启用快速模式 ) agent.run_sync()优势分析零配置门槛无需GPU资源5分钟即可开始使用自动扩展云端服务根据负载自动调整资源持续更新模型迭代无需用户干预 方案二本地部署适合隐私敏感场景硬件要求推荐配置单张GPU显存≥24GB最低配置2张GPU显存≥16GB/张安装vLLM推理引擎pip install vllm --upgrade # 确保vllm版本≥0.12.0启动本地服务vllm serve browser-use/bu-30b-a3b-preview \ --max-model-len 32768 \ --host 0.0.0.0 \ --port 8000本地调用代码from browser_use import Agent, ChatOpenAI llm ChatOpenAI( base_urlhttp://localhost:8000/v1, modelbrowser-use/bu-30b-a3b-preview, temperature0.6, top_p0.95, dont_force_structured_outputTrue # 禁用结构化输出加速 ) agent Agent( task本地分析图片中的网页布局, llmllm, ) agent.run_sync()优势分析数据隐私所有处理在本地完成无需上传敏感数据自定义配置可调整config.json中的参数优化性能离线可用不依赖网络连接适合内网环境 两种方案核心对比对比项API调用本地部署初始设置⭐⭐⭐⭐⭐⭐⭐⭐运行成本按使用量计费一次性硬件投入响应速度依赖网络本地GPU直接响应自定义程度低高可修改tokenizer_config.json适用场景快速原型开发生产环境/隐私场景 选择建议个人开发者/小团队优先选择API调用降低维护成本企业用户推荐本地部署通过vllm实现高性能推理混合场景开发阶段使用API验证功能部署阶段迁移至本地环境 模型技术特性该模型基于Qwen3-VL架构具有以下核心特性视觉语言理解支持图片/视频输入通过video_preprocessor_config.json配置超长上下文32768 tokens上下文窗口特殊标记系统包含|vision_start|等视觉处理标记定义于tokenizer_config.json要获取完整模型参数可查看config.json中的详细配置。 扩展资源官方文档docs/official.md假设路径模型训练代码plugins/ai/假设路径社区支持Discord通过本文介绍的两种方式你可以根据实际需求灵活使用BU-30B-A3B-Preview模型的强大浏览器理解能力。无论是快速验证想法还是构建生产级应用这款模型都能提供高效可靠的支持。【免费下载链接】bu-30b-a3b-preview项目地址: https://ai.gitcode.com/hf_mirrors/browser-use/bu-30b-a3b-preview创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考