OpenAI 致力于防止滥用 ChatGPT 的功能。如果网络欺诈者要求 ChatGPT 创建网络钓鱼电子邮件，他们将不再这样做。但是，提示的措辞可能有所不同，聊天机器人会向您提供一个非常适合网络钓鱼的电子邮件模板。
给公司的提示
为了克服网络钓鱼的挑战，对员工进行识别网络钓鱼企图的有针对性的培训至关重要。公司可以自己创建网络钓鱼电子邮件并将其发送给所有员工。任何落入网络钓鱼企图并点击可疑链接或泄露敏感信息的人都将被邀请参加详细涵盖该主题的培训课程。员工还应该知道如果在真实的网络钓鱼情况下犯了错误应该联系谁，以便问题能够快速得到解决。
超过一半的受访公司正在投资云和电子邮件安全
为了应对网络钓鱼或员工无意行为带来的风险，超过一半的公司投资于电子邮件安全。
人工智能网络安全投资领域
投资最多的领域是云安全。随着公共云提供商推出新功能来帮助组织构建安全结构，人工智能在云安全领域获得了巨大的关注。越来越多的公司转向云以利用云计算的优势。尽管如此，安全团队仍面临配置错误和技能短缺等挑战。云中的安全责任由提供商和客户共同承担。后者负责身份管理、网络安全和数据保护等方面。
给公司的提示
如果企业受到攻击并遇到业务中断，网络保险将至少承担部分损失并提供紧急服务。 Capterra 发现，48% 的受访者表示他们的公司有网络保险。网络保险涵盖许多犯罪行为，包括勒索软件、网络勒索和社会工程攻击，是企业的必需品。
人工智能驱动的安全系统相对于传统网络安全工具有何改进？我们将在下一节中通过查看公司投资此类解决方案的员工的反应来找到答案。
与传统网络安全相比，人工智能驱动的网络安全的三大优势是什么？
传统网络安全与人工智能驱动的网络安全之间的不同方法
传统的网络安全最初依赖于签名代码系统。这些工具有一个数据库，用于收集与已知威胁相对应的恶意代码签名。根据这些信息，他们能够分析和检测计算机网络上的可疑流量并发出安全警报。
传统工具基于“静态”保护，仅响应系统的已知威胁，而人工智能工具则基于“动态”检测方法。它们的功能通过检测与已知威胁相关的模式，最重要的是，通过识别新威胁来提高网络的安全性。特别是，利用机器学习原理，使用与被防御网络的日常活动相对应的数据来训练人工智能，人工智能可以检测并报告潜在的异常活动。
由于人工智能可以读取组织系统和用户正常行为的数据，因此它可以检测异常行为。无论是无法识别的设备连接还是网站异常流量涌入，人工智能驱动的系统都能够检测到这些影响并快速发出警报。 49% 的参与者认为行为分析是人工智能相对于传统方法最重要的优势。
特别是，利用机器学习算法，人工智能工具可以实时分析大量数据，从而更快地识别对系统构成威胁的模式。这使得公司能够在出现潜在安全问题时识别它们，这对于打击网络犯罪分子来说是一个巨大的优势。 48% 使用人工智能解决方案的公司认为这一优势尤为重要。
对于 40% 的受访者来说，自动化是人工智能安全系统的第三大重要优势。传统的网络安全方法通常需要 IT 经理手动分析工具收集的数据。这包括处理和排序警报、分析安全日志以及在出现新威胁时提示您更新数据库。通过自动化大部分领域，人工智能可以减轻受影响团队的耗时任务。
正如参与者的反应所表明的那样，人工智能确实具有提高企业安全性的潜力。然而，尽管该技术具有潜在的优势，但也存在一些局限性和挑战。
利用人工智能实现网络安全的最大挑战
人工智能在网络安全方面的主要局限性之一是其分析缺乏准确性以及 乌克兰电报数据 生成的大量信息（43％）。尽管人工智能算法可以处理大量数据并识别模式，但它们的分析能力取决于它们之前接受过训练的信息。最近使用 ChatGPT 生成文本的示例表明，面对未知数据，人工智能可以提供看似合理但不正确的答案。
依赖人工智能生成的未经人工审核的原始数据可能会导致不准确甚至错误的结论。除此之外，正在处理的数据量很大，这使得分析结果变得困难。
提到的另一个缺点是系统不独立，因此必须有人监督（40%）。基于人工智能的系统需要合格的专业人员能够有效地与之合作。人工智能模型的复杂性以及解释难以理解的数据的需要需要具有广泛知识的人才。在难以留住和吸引 IT 人才的环境中，这方面对某些公司来说可能具有挑战性。
第三和第四大挑战是“假阴性”（32%）和“假阳性”（28%）结果。与人类不同，人工智能没有情境意识，如果模型没有提前获知，它就很难解释某些事件。然后，人工智能可以将公司中的无害活动报告为可疑（误报），或者相反，忽略真正的威胁（误报），从而需要 IT 经理额外关注来整理这些信息。