Gartner发布关于在中国使用GhatGPT等生成式AI应用的安全问答

简介：
本文由Gartner发布，针对中国企业在使用如GhatGPT等生成式AI应用程序时可能遇到的安全问题提供解答和建议。 对于中国的生成式AI应用的安全、风险和治理问题，CIO需要了解以下几个方面： 首先，明确采用生成式AI的潜在风险。例如，在数据隐私和保密性方面，这些技术可能在用户不知情的情况下与第三方共享信息，并且敏感或机密的信息可能会被用于训练模型或者出现在响应中。 其次，理解生成式AI应用治理与数据治理之间的关系。这包括制定合适的策略和控制措施来降低使用生成式AI的风险，确保责任和权限的明确性。 再者，在实践中采用适当的治理和安全控制措施是必要的。例如，对于涉及安全运营的应用程序来说，需要经过经验丰富的分析师审查，并在测试环境中验证以防止错误信息导致的安全漏洞。 此外，中国的服务、数据、隐私以及安全政策也是必须遵守的重要法规。不合规使用生成式AI可能会违反这些规定，特别是在未经许可的情况下跨境传输数据时。因此，在中国采用ChatGPT等技术的企业需要考虑选择国内的生成式AI服务，并确保符合相关法律法规的要求以保护数据隐私和防止知识产权侵权。 总之，中国企业机构在采用像ChatGPT这样的生成式人工智能应用之前必须充分了解并准备应对这些方面的挑战：安全、风险以及治理。这不仅能帮助他们更好地管理潜在的风险，还能保证合规运营的同时促进技术的健康发展。