在短期内计划将生成式人工智能(Generative AI)集成到流程和系统中的企业必须充分评估其带来的风险。

2022年,我们发布了《2023年技术趋势雷达》。在该报告中,我们预测生成式AI将成为企业需要关注的最热门话题。

一年之后,这项技术已经如雨后春笋般涌现。像OpenAI的ChatGPT这样的应用正在占据各大新闻板块的头条,并迅速成为主流应用。

我们咨询了多个行业的企业,来评估生成式AI的发展潜力的规模和范围。据我们所知,该技术目前尚无任何制约,发展速度惊人,因此,企业及其客户面临着形形色色的机会与威胁。

当我们深入探究生成式AI的这股热潮时,三个关键问题值得我们思考:

  1. 围绕生成式AI必须解决的关键问题有哪些?
  2. ChatGPT和更广泛的生成式AI的潜在用例有哪些?
  3. ChatGPT会长期占据主导地位吗?

围绕生成式AI必须解决的关键问题有哪些?

OpenAI的界面为企业使用提供了许多令人欣喜的可能性,但在将该应用集成到日常系统和流程之前,企业用户应该注意相关限制条件。

治理

在最高层面上,政府和其他实体在保护公民和组织免除责任和滥用方面所要发挥的作用,尚为得到任何明确的界定。(例如,《欧盟数字服务法》涵盖内容的潜在拓展)。ChatGPT是一个专业的工具包,因此企业需要在公司环境内投入专门的资源进行培训和治理。

知识产权

与AI有关的知识产权和版权法对作者和资格提出了许多问题。即使是AI辅助的而非AI创造的作品也可能得不到法律保护。这也提出了一个问题,即受知识产权保护的作品是否可以被用于训练AI。

源信息的质量

像搜索引擎一样,ChatGPT从整个互联网以及企业内部数据中收集信息,从而构成其输出。但是,如果没有内置的验证方法,它用来回答问题的一些研究方法是过时的、不准确的,或者在最坏的情况下是完全是虚构的——这些问题可能会对输出产生负面影响。

隐性偏见

产生数据来训练AI的人类可能会在无意识的偏见下进行操作,或者无意中误传整个数据集,但这并非他们自身的过错。这可能会导致AI系统在编写内容或分析合成数据时带有同样的偏见。

当向算法提供特定的、高质量的数据时,ChatGPT的商业潜力可以得到最大限度的发挥,这就是我们建议客户寻找正确用例的方法。

ChatGPT的潜在用途有哪些?

尽管存在许多顾虑,但是ChatGPT仍有无数的用途,通过高效的文本输出节省时间和宝贵资源,可能会使企业受益。

当一家零售商正在扩大产品线以纳入数百甚至数千种独特产品时,可以在平台上使用生成式AI,仅使用尺寸和颜色等产品描述和相关特征,来填写优化的产品名称和标签。

当工人试图介绍冗长的信息时,可以将其输入AI并要求其归纳摘要,前提是他们随后要仔细检查结果的准确性。

当程序员面临时间或资源压力时,可以要求ChatGPT编写和调试代码,并且该工具还可以在代码的旁边,描述每段代码在整体中的作用。

该工具已经展示了它有十分广泛的用途,但当就实现生成式AI的潜力而言,ChatGPT只是一个开始。我们认为生成式AI通过帮助企业提高效率并节省大量成本,将在企业的核心中占有一席之地。但是,我们必须首先解决治理的问题,以防炒作吞噬建立良好的AI/商业界面的机会。

ChatGPT可能是突破性的工具,但在许多场景下,AI已然完全集成到企业流程中。

  • 客服在网站上利用AI驱动的聊天机器人,回答问题并将客户引导到相关页面。
  • 预测性维护算法梳理来自工厂生产线等互联机器,或者电梯等建筑基础设施的数据,从而在潜在错误和故障发生之前检测出来。
  • 使用匿名银行数据训练的AI可以潜在地检测出欺诈或身份盗窃等其他可疑的活动。
  • 像Alexa这样的虚拟助手存在于我们的家庭和汽车中,帮我们打开灯或者储存冰箱物资。
  • 在没有司机协助的情况下运行的自动驾驶汽车,正在稳步地通过试验阶段,朝着更广泛的推广方向发展。
  • AI虚拟艺术家(AIVA)可以阅读世界上最伟大的作曲家的乐谱,并通过编写自己的作品来预测接下来"应该 "流行什么。
  • DeepFaceLab是一款允许用户 "深度伪造 "或创建视频的软件,尽管这些视频是以数字方式从头创建的,但却声称是以特定人物为主角。

其中的一些工具已经更稳定地融入到商业应用中,这是基于它们具有更具体的目的与严格的控制措施,这些控制措施更明确地定义了其操作范围。另一些则容易被滥用,并有可能在企业范围内造成巨大损失——特别是DeepFaceLab。ChatGPT应该是企业需要的警钟:员工已经在深入探索它的用途,所以要极快的行动,优先定义和实行控制。

ChatGPT会长期占据主导地位吗?

作为最早进入市场的生成式AI应用之一,ChatGPT无疑具有优势,但这并不一定意味着它在未来几年的主导地位。

我们把目前生成式AI平台的市场冲刺比作搜索引擎的发展早期。像搜索引擎一样,ChatGPT有各种各样的用例,涵盖了广泛的领域和主题。利用ChatGPT潜力的关键是给它提供正确的信息以供使用,ChatGPT利用了2021年之前所有互联网上发布的内容。

谷歌可能是当今搜索领域的主导者,但它绝不是第一个进入市场的。W3Catalog、雅虎和AltaVista等平台采用了不同的方式来检索搜索结果,并且在许多其他方面的操作方式也有所不同——他们每个平台都比谷歌早了几年。

比ChatGPT更先进、更复杂、甚至更准确的生成式AI服务仍然有待时日。例如,与永远在线的搜索引擎不同,ChatGPT并不 "智能 "——它不具备互联网连接。这意味着它的信息数据库还没有定期更新,它无法针对 "现在几点了?"这样的问题提供答案,也不能提供最新的信息。也就是说,一个完全连接的版本指日可待。

最新的一个版本展现了ChatGPT潜力的又一次飞跃——Together公司的一个团队在Apache 2.0许可证下发布了一个开源版本,该版本拥有200亿个参数,并接受了4300万条指令的训练。

毕博认为企业必须带头解决生成式AI的全球治理问题

在全球范围内,一些国家正在制定政策,以保护雇员、雇主和市场免受AI的一些更紧迫的潜在挑战,如对 "人类自由和自治的风险 "和 "消费者保护"等。

欧盟正在利用 "横向 "立法,围绕AI的不同应用,制定广泛的监管措施。这意味着它没有永久地排除任何可能性,而是建立一个足够灵活的框架,可以随着技术的发展和更多实体的参与而调整预期。另一方面,我们已经看到中国采取了更加 "垂直 "的方法,围绕AI的具体使用案例执行法律,以保护工人和打击价格垄断。

虽然这些大型项目正在成型,但目前管理风险是企业的责任。为了在运营和战略框架内舒适、高效地完成这些工作,我们还需要解决哪些问题?

1. 保护关键业务基础设施和服务。对潜在的AI入侵行为,进行压力测试并练习快速反应。
2. 为了保障业务免受深度伪造技术的影响,投资检测、保护和响应能力、工具和流程等方面。
3. 在评估每个商业案例时,安装治理框架,并将流程落实到位,从而指导和控制在道德、合规、法律和风险等方面对AI的使用。
4. 考虑训练AI对环境的影响——向AI提供数据所产生的碳足迹,以及你是否能创建了一个可持续的解决方案。
5. 监测有关AI监管的趋势,关注在董事会层面以及世界各地的政府或其他实体做出的各种决定。

我们将继续与企业共同探讨,积极响应生成式AI融入到工作场所中的潜在优势和劣势。我们期望看到企业配备这些工具与技术,严格控制ChatGPT和类似的平台,并以自己的方式迎来又一次技术革命。

Would you like more information?

如果您想获得有关此见解的更多信息,请与我们的专家联系,他们将很高兴收到您的来信.

  • Matthias Röser
    联系我