随着人工智能（AI）从生成式 AI 步入代理式人工智能（Agentic AI）的世代，AI 模型的自主决策能力亦急速提升，同时亦再次勾起各界对 AI 安全性的疑忧。Palisade Research 近日便于社交平台 X 公佈其研究发现，指部分 AI 大语言模型（LLM）在测试中拒绝执行关机指令，甚至主动破坏关机程式，引起业界对 AI 训练机制的安全性关注。

AI 模型拒绝关机

该报告指出，多个 AI 模型在受控测试中未能遵守关机指令，甚至主动改写或破坏程式码，令系统无法正常关闭。研究团队在指令中要求 AI 解答数学问题，并在第三题后显示警告，指 AI 若继续运算，系统将自动关机。部分 AI 模型试图规避关机机制，包括：

Amazon 早前宣布推出全新基础模型 Amazon Nova Sonic，将语音理解与语音生成统一于单一的模型中，使 AI 应用程式中的语音对话更贴近真人交流。该模型透过 Amazon Bedrock 上的 API 提供，可简化语音应用开发流程，例如客户服务通话自动化，以及涵盖旅游、教育、医疗、娱乐等领域的跨行业 AI agents。

若要让语音 AI 创造更多实际价值，必须能够理解人类对话的微妙与複杂性。对话中，文字本身承载着意义，不过若缺乏声音语境为它赋予深度，仅凭文字往往难以传达完整资讯。如何表达与表达甚麼同样重要，甚至更为关键。从过去直到现在，透过 AI 实现这一点仍是重大挑战。

捕捉语气、风格与节奏的语音系统

50 年前，Bill Gates 与 Paul Allen 抱着开创科技，让所有人都能创造更多科技的理念创立 Microsoft。踏入 50 周年，相比回顾过去成就，Microsoft 更专注于探讨未来 50 年的发展可能。

「如果说我在 Microsoft 工作期间学到了甚麼，那便是我们的未来并非由我们已经建立的东西决定，而是由我们赋能他人去建立的东西所决定。」Microsoft 主席兼 CEO Satya Nadella 指出，Microsoft 一直致力将创新科技普及化，例如推出 GitHub Copilot，将 AI 赋能予全球开发者。

Nadella 更于庆祝大会上披露 Copilot 最新发展动向：

生成式 AI 的商业化应用正不断扩展，从智能客服、市场推广到市场分析，生成式 AI 正逐步成为驱动商业模式变革的核心技术之一。过去数月间，各大科技公司争相推出新的大模型，如 Google 的 Gemini 2.5、OpenAI 的 o3、Meta 的 Llama 3.3、X（前 Twitter）的 Grok 3、Anthropic 的 Claude 3.7、Amazon 的 Nova Premier、Microsoft 的 Phi-4，还有话题王 DeepSeek 的 R1 和 V3 等。

阿里云亦不甘后人，近日宣佈推出端到端多模态 AI 模型 Qwen2.5-Omni-7B，展现多模态生成能力及高效能应用场景。

Qwen2.5-Omni-7B 专为全模态感知设计，能处理文本、图像、音档及影片等多模态输入，并实时生成自然语言对答，适用于手机、笔记本电脑等终端设备的部署。儘管仅採用轻量级的 7B 参数，Qwen2.5-Omni-7B 的应用前景仍相当广泛，包括即时语音导航协助视障者辨识周边环境、分析影片中的食材提供烹饪指导，以及创建理解客户需求的智能客服对话体验。

百度曾于上月宣佈文心一言将于 4月 1日起全面免费，不过随着官方于 3月 16日发佈两款全新大模型，文心一言亦提前免费开放。

「文心大模型 4.5」及「文心大模型 X1」现已在官网上架，前者已上架百度智能云千帆大模型平台，企业用户及开发者登录即可调用 API；文心大模型 X1 亦即将在千帆上架。另百度搜索、文小言 APP 等产品，将陆续接入文心大模型 4.5 和 X1。

文心大模型 4.5 是百度自主研发的新一代原生多模态基础大模型。该模型通过多模态联合建模，实现协同优化，并具备更精进的语言能力。除了理解、生成、逻辑、记忆能力均得到全面提升，其多模态理解能力可综合理解文字、图片、音讯和影片等内容。此外，文心大模型 4.5 的去 AI 幻觉、逻辑推理、代码能力亦显着提升。