微软已经靠着人工智能技术已经赚了不少钱。然而，很多人不知道的是，微软在赚钱的同时，还在研究如何黑掉人工智能。
距离微软在Bing上推出了人工智能驱动搜索已经过了六个月，至今累计产生了超过10亿条聊天记录和7.5亿张人工智能生成的图像。
为了庆祝人工智能聊天机器人和工具问世半周年，微软正在将人工智能驱动的Bing的可用性从自己的Edge浏览器扩展到Apple的Safari和Google Chrome等第三方浏览器。
虽然Microsoft 365 Copilot AI工具每月费用为30美元，但市场反映强烈，买家络绎不绝。这也给微软进一步扩大业务范围奠定了基础。
周一，微软在博客文章中表示：“Bing现已包含许多新的、有用的功能，我们很高兴地宣布，您很快就可以开始在网络和移动设备上的第三方浏览器中体验新的人工智能驱动的Bing。”
微软在今年2月份推出了由ChatGPT背后的大语言技术支持的Bing搜索，称其搜索引擎是“人工智能驱动的网络副驾驶”。搜索结果开始整合来自OpenAI的信息，Bing还添加了一个聊天窗口来帮助您完成诸如制作购物清单、总结PDF、生成LinkedIn帖子以及针对您的查询提供建议等操作。
Bing AI聊天机器人于5月初向所有拥有Microsoft帐户的人开放，但仅限于计算机、手机和平板电脑上的Edge浏览器以及Bing应用程序。5月中旬，它扩大了可用性，这意味着您无需Microsoft帐户即可使用Bing AI聊天。
并且，微软还特意添加了适用于iOS和Android的聊天机器人小部件，将人工智能驱动的Bing引入了SwiftKey键盘中的Compose功能，并添加了用于购物的人工智能工具，包括自动生成的购买指南、产品评论和价格匹配。
可以说，微软的GPT产品非常成功，甚至已经出现了超越ChatGPT的迹象。对于大多数人来说，在日常生活中使用人工智能工具的想法逐渐成为主流。随着用户的增多，产品带给用户的体验成为各方竞争的焦点。
同样也是在周一，微软披露了公司内部团队的详细信息，该团队自2018年以来一直致力于研究如何攻击人工智能平台以揭示其弱点。
该团队被称为“红队”。成立五年来，红队已经从一个本质上的实验发展成为一个由机器学习专家、网络安全研究人员甚至社会工程师组成的完整的跨学科团队。该小组致力于使用数字安全的传统说法在微软内部和整个科技行业传达其研究结果。而不是需要许多人和组织尚不具备的专业人工智能知识。但事实上，该团队得出的结论是，人工智能安全与传统数字防御存在重要的概念差异，这需要红队的工作方式有所不同。
红队创始人Shankar Siva Kumar说：“我们现在必须认识到负责任的人工智能方面，即人工智能系统故障的责任—
—因此产生令人反感的内容，产生不接地气的内容。这就是人工智能红队的目标。不仅要关注安全方面的失败，还要关注负责任的人工智能失败。”
Shankar Siva Kumar表示，我们需要时间来阐明这种区别，并证明红队的任务确实具有这种双重重点。许多早期工作都与发布更传统的安全工具有关，例如2020年对抗性机器学习威胁矩阵，这是Microsoft、非营利研发组织MITRE和其他研究人员之间的合作。同年，该组织还发布了用于人工智能安全测试的开源自动化工具，称为Microsoft Counterfit。2021年，红队又发布了一个AI安全风险评估框架。
然而，随着时间的推移，随着解决机器学习缺陷和故障的紧迫性变得更加明显，红队已经能够发展和扩大。
在一项早期行动中，红队评估了一项具有机器学习组件的Microsoft云部署服务。该团队设计了一种方法，利用一个缺陷对云服务的其他用户发起拒绝服务攻击，该缺陷使他们能够制作恶意请求来滥用机器学习组件并战略性地创建虚拟机。通过小心地将虚拟机放置在关键位置，红队可以对其他云用户发起“骚扰邻居”攻击，其中一个客户的活动会对另一个客户的性能产生负面影响。
红队最终构建并攻击了系统的离线版本，以证明漏洞存在。至关重要的是，人工智能系统的动态性和多面性意味着微软不仅仅看到资源最丰富的攻击者瞄准人工智能平台。
不过，红队不仅仅研究目前在野外使用的攻击。Shankar Siva Kumar表示，该小组的重点是预测下一步攻击趋势。这通常涉及到对红队使命中较新的人工智能问责部分的强调。当该团队在应用程序或软件系统中发现传统漏洞时，他们通常会与Microsoft内的其他团队合作修复该漏洞，而不是花时间自己完全开发并提出修复方案。
尽管从目前来看，微软成立专门的技术团队研究人工智能漏洞是为了提升用户体验。可是，毫无疑问，此举也是在研究专属于人工智能的黑客技术。在中国的互联网历史上，在技术圈内都知道这么一件事。有人一边在卖杀毒软件，一边又在不断的释放木马、病毒。而AI必然是下一个“互联网”，难保不会出现以前互联网的那一幕。当屠龙少年和恶龙是同一伙人的时候，普通人的钱袋子注定是保不住了。
“财经姝婷说，用故事说财经”
《财经姝婷说》系列财经短视频节目
首播时间：每周五晚20点30分
重播时间：每周六中午11点50分
在深圳财经生活频道播出
欢迎关注
原文链接：https://new.qq.com/rain/a/20230809A06DZY00
