【ITBEAR科技资讯】6月5日消息，近日，一封由OpenAI和谷歌DeepMind的前任与现任员工共同签名的公开信引发了广泛关注。该信件主要表达了对高级人工智能潜在风险的担忧，并指出当前对于人工智能科技公司的监管存在明显不足。
公开信中详细列举了人工智能可能带来的种种风险，包括但不限于加剧社会不平等、助长操控行为及虚假信息的扩散，更为严重的是，如果自主人工智能系统失控，甚至可能导致人类的生存危机。员工们强调，这些人工智能公司受强大的经济利益驱动，积极推动人工智能的研发，然而对于相关的保护措施以及具体风险水平却三缄其口。公开信明确指出，不能单纯依赖这些公司会主动公开此类信息，因此需要内部人员敢于揭露真相。
据ITBEAR科技资讯了解，由于目前政府监管的缺失，这些签名的员工成为了能够促使这些公司对公众有所交代的少数力量。但遗憾的是，严格的保密协议束缚了他们的发言，使得他们只能向公司内部反映问题，而无法将真相公之于众。此外，现有的举报人保护措施并不完善，因为它们主要是针对违法行为的，而当前许多令人担忧的风险尚未被纳入监管范围。
鉴于此，员工们呼吁人工智能公司应为揭露风险的人员提供切实有效的保护，并提出了具体的保护措施建议。这些措施包括：禁止制定或执行阻止员工对风险提出批评的协议，提供可以验证的匿名程序以便员工向董事会、监管机构及相关独立组织反映风险问题，倡导开放的批评文化，以及在其它途径无效时，保护那些公开分享风险相关信息的员工免受报复。
该公开信共有13名员工签署，他们分别来自OpenAI和谷歌DeepMind，其中包括7名前OpenAI员工、4名现任OpenAI员工、1名前谷歌DeepMind员工和1名现任谷歌DeepMind员工。此前OpenAI曾因员工对外发声而威胁剥夺其既得权益，并试图通过严格的保密协议来限制员工对公司的批评。
