OpenAI首席科学家称AI或很快迈入自我进化阶段 期望业界自愿放缓开发

OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与人类及其他AI系统协作，并开展研究项目。他称，用不了多久，这些模型还将能够在没有人类干预的情况下改进自身，这一过程被称为'递归式自我改进'。'这是一个需要极度谨慎的时刻，'Pachocki写道。'我担心，没有人为机器智能持续快速提升所带来的后果做好准备。'他写道，开发者可以尝试更严格地引导AI，使其与人类利益保持一致，也可以'在必要时放慢未来的开发速度'。他说：'我预计并希望，在建立共同安全门槛之前，自愿放缓开发将成为普遍现象。' 举报