“为了避免这一风险，法规非常重要，当前所有出现的问题，都是因为利益相关者没有给出明确的定义要求。技术可以适当地提高标准。”约瑟夫·希发基思称。

　　约瑟夫·希发基思在会后接受澎湃科技（www.thepaper.cn）采访时指出，当前，太多人谈论AI（人工智能），但什么是智能，如何真正地实现应用，这些人无法精确地回答。他认为，尽管人类在人工智能研究中取得了长足的进步，并迎来了生成式AI，但目前应用只是弱智能（weak AI），集中在问答应用上，并没有能够同步人工智能能力的技术和法则。

　　澎湃科技注意到，2024顶科协奖“智能科学奖”得主、康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格在此次论坛上也指出，当前人工智能发展，人类自身的排外偏见会导致算法与生俱来的偏见，进而引发人类社会的一系列混乱。受到经济激励的影响，人们在设计算法时容易陷入“单作”的状态。此外，人类在面对超越人类的AI系统时，认知上的落后会带来麻烦。在和此类AI系统开展合作时，控制权往往不在人类自己手里。但假如人工智能突然把控制权交了出来，那么人类就可能犯下严重错误，因为AI知道该怎么做，人类未必。

　　所以克莱因伯格认为，“在做人类判断和算法知识判断的时候，都要考虑风险偏见问题。”在设计时既要追求算法的强大，也要注意，事态不能发展到失控的地步。

　　（澎湃新闻）