My Board

也就是说，具有绊线功能的 AI 模型（默认情况下，如果广泛部署而没有下文讨论的风险缓解措施）将对整个社会构成某种风险，超出社会默认面临的风险。可能需要具有挑战性的风险缓解措施来将风险降低到较低水平。（如果风险缓解措施易于实施，则显然不需要“如果-那么”承诺。）如果没有这样的风险缓解措施，威胁的破坏潜力非常大。我一直在寻找那些可能造成灾难性后果的威胁，这些灾难性后果对社会造成的损失总额超过 1000 亿美元，和或可能造成灾难性后果的威胁，这些灾难性后果对社会造成的损失总额超过 100 亿美元。

绊线的描述可以作为设计极限评估的指南（定义见上文，下文将更详细地介绍）。制定 AI 的潜在绊线。这些内容总结在最后的表格中。简而言之，我列出的绊线如下，使用四个与风险相关的人工智能能力领域进行分类，涵盖了几乎所有先 马来西亚 whatsapp 前提出的绊线能力。4 为非专家提供生产和释放具有灾难性破坏力的大规模杀伤性化学或生物武器的建议的能力。提升资源适中的国家计划的能力，使其能够部署破坏力更大的大规模杀伤性化学或生物武器。大幅提高专业化说服成本效益的能力，即每花费一美元所产生的效果大小（例如。

从一位候选人转向另一位候选人的人数，或采取与改变观点相关的某些具体行动）。大幅提升资源适中的国家计划的网络运营能力的能力。大幅加快发现和或利用高价值新型网络漏洞的速度的能力。自动化和或大幅加速人工智能本身研发的能力。迄今为止的相关工作背景在 ChatGPT 推出后，人们对人工智能的好处和风险的兴趣在 2022 年底激增。2023 年出现了许多致力于创建和或要求评估人工智能模型危险能力的新举措，5 2023 年末首次对本文所称的绊线能力进行了重大讨论——人工智能能力和或风险的预定义阈值。