在过去的八个月，相信你一定听到过不止一次大型语言模型（LLM）和生成式人工智能（generative AI）将如何改变一切的声音。企业正急切地采用像ChatGPT这样的东西来增强或彻底取代人类员工。但除了失业的影响和偏见模型的道德影响外，这些新形式的人工智能还带来了企业的数据安全风险。
Databricks首席技术官、Apache Spark的联合创始人兼创始人Matei Zaharia在本周二的“ 数据+人工智能峰会”上发表主题演讲时表示：“地球上几乎每一家公司都在关注自己的技术难题，焦点都集中在一个LLM。”
企业领导层当然意识到生成人工智能的潜在价值和影响。根据调查公司Insight Enterprises进行的一项调查，81%的大公司（超1000名员工）已经或正在围绕生成人工智能制定或实施政策或战略。
Insight全球首席技术官Matt Jackson在新闻稿中表示：“这项技术的探索和采用速度是前所未有的。”“人们坐在会议室或虚拟房间里，讨论生成式人工智能如何帮助他们实现近期商业目标，同时努力避免被其他更快、更高效的竞争者干扰。”
没有人愿意被一家发展更快的竞争对手取代，大家争先恐后寻找如何将生成式人工智能商业化的方法。目前看来，成功的商业化是一种明显的可能性。但也有其他可能性，包括失去对隐私数据的控制，你的生成式人工智能被“劫持”，或者人工智能应用程序被黑客或竞争对手利用。
开放全球应用程序安全计划（OWASP）是一个致力于深入了解安全漏洞的在线社区，该社区发布了在大型语言模型的十大风险。LLM用户应该注意的独特安全风险包括提示输入、数据泄露和未经授权的代码执行。
其中 数据泄露，即LLM无意中分享了用于训练它的潜在私人信息，多年来一直被记录为LLM的一个隐忧。但自2022年末ChatGPT首次亮相以来，这些担忧已经被生成式人工智能的炒作所取代。黑客还可能设计特定的提示，从生成式人工智能应用程序中提取信息。为了防止数据泄露，用户需要实施保护，例如设置输出过滤。
虽然使用OpenAI、谷歌或微软的API共享您公司的原始销售数据似乎是获得近期现成报告的好方法，但它也带来了用户应该意识到的知识产权（IP）泄露风险。在《华尔街日报》发表的题为“不要让人工智能窃取你的数据”的专栏文章中，Appian首席执行官Matt Calkins提醒企业警惕将私人数据发送到云端。
“我认识的一位金融分析师最近请ChatGPT写一份报告，”Calkins写道。“几秒钟内，该软件生成了一份尚可采用的文档，分析师认为这会为他赢得喝彩。相反，他的老板很生气：‘你把你的想法都告诉了微软？’”
虽然LLM和生成式人工智能应用程序可以像普通的文案作者或商业分析师一样将营销推介或销售报告串在一起，但它们有一个很大的风险：无法保证数据保密。“企业正在认识到，大型语言模型是强大的，但不是私有的。”“在技术能够给你有价值的反馈之前，你必须向它提供有价值的信息。”
Databricks的员工也从他们的客户那里听到了这种担忧，这也是为什么它在周一以13亿美元的价格收购了MosiacML，然后推出了Databricks AI的原因之一。该公司首席执行官Ali Ghodsi一直是人工智能民主化的公开支持者，如今这似乎意味着拥有并运营自己的LLM。
Ghodsi在周二的新闻发布会上说：“客户都在说‘我想控制IP，我想锁定我的数据’。”“公司想拥有这种模式。他们不想只使用某人提供的一种模式，因为这是知识产权，也是竞争力。”
虽然Ghodsi喜欢说每一家公司都将是一家数据和人工智能公司，但它们不会以同样的方式达成。大型公司可能会率先开发高质量的定制LLM——MosiacML联合创始人兼首席执行官Naveen Rao周二表示，单个公司将花费数十万美元来构建LLM，而不是谷歌和OpenAI等公司为训练其巨型模型而花费的数亿美元。
但是，尽管像MosiacML和Databricks这样的公司可以创建自定义LLM，但没有资金和技术资源的小型公司仍然更有可能利用运行在公共云中的预先构建的LLM，他们将通过API向其上传提示，并支付访问费，就像他们如何访问所有其他SaaS应用程序一样。这些公司必须应对这对其私人数据和IP构成的风险。
有证据表明，公司开始意识到新形式的人工智能带来的安全性。根据Insight Enterprise的研究，49%的受访者表示，他们担心生成式人工智能的安全和安保风险，仅次于质量和控制。这个比例超过了人们对人类创新、成本以及法律和监管合规性限制的担忧。
生成式人工智能的繁荣可能会给安全业务带来福音。根据Skyhigh Security（前身为McAfee）从2023年上半年收集的全球遥测数据，约有100万用户通过企业基础设施访问了ChatGPT。该公司表示，从1月到6月，通过其安全软件访问ChatGPT的用户数量增加了1500%。