从聊天到干活
聊天机器人只会回答问题。而智能体会接到一个任务,比如“找出这段程序里的错误并修复它”,然后自己规划步骤:读取文件、运行测试、修改代码、检查结果。在此过程中,它会用到终端、浏览器或各类企业应用等工具。
Model Context Protocol
要让智能体能够使用不同的服务(日历、邮件、数据库),就需要一套统一的接口。开放协议 MCP 因此成为了这样的标准,如今大多数大型企业都已支持它。
风险
- 被植入的恶意指令(提示词注入): 网页或邮件中可能藏有一段隐藏文字,试图诱使智能体做出有害的操作。
- 不可逆的操作: 智能体在未经确认前,不应删除文件、转账或发送邮件。
- 因此,靠谱的智能体应在受限权限下工作,并在关键步骤前征求人的确认。