【ITBEAR科技资讯】6月5日消息，近日一封由OpenAI和Google DeepMind的现任与前任员工共同签署的公开信引发了广泛关注。这封公开信旨在警示公众关于先进人工智能技术的潜在危险，以及当前对人工智能企业的监督缺失问题。
公开信强调，人工智能技术的开发过程中伴随着诸多风险，包括但不限于加剧社会不平等、信息操纵与误导，以及对自主人工智能系统控制的丧失。更令人震惊的是，信中明确指出这些风险有可能导致人类的灭亡。
据ITBEAR科技资讯了解，公开信中还特别提到，人工智能企业由于强大的经济驱动力，往往会选择推进技术发展，同时避免分享关于其保护措施和风险水平的关键信息。公开信的作者们对此表示担忧，并认为不能单纯依赖这些企业自愿公开相关信息。
此外，公开信中还揭示了人工智能企业内部的一种现象，即通过广泛的保密协议来限制员工对公众表达担忧。这使得现任和前任员工成为能够揭露问题并促使企业对公众负责的重要力量。然而，这些保密协议往往阻碍了他们发声，除非是针对那些可能未解决问题的企业。
在此背景下，员工们发出了一系列呼吁，希望人工智能企业能够提供可靠的举报人保护，避免制定或执行阻止员工因风险问题提出批评的协议，并为员工提供可验证的匿名反馈渠道，以便他们向董事会、监管机构和具备相关专业知识的独立组织反映风险问题。同时，员工们也倡导一种支持公开批评的文化，允许员工在保护商业秘密的前提下，向公众和相关部门提出技术风险问题。
此次公开信共有13名员工签署，他们分别来自OpenAI和Google DeepMind，其中包括7名前OpenAI员工、4名现任OpenAI员工、1名前Google DeepMind员工和1名现任Google DeepMind员工。此举无疑向外界传递了一个明确的信号：在人工智能飞速发展的今天，我们更需要关注其背后的风险，并加强对相关企业的监督和管理。
