Bencio的“ Ai Padrino”宣布开发“完整性”系统，以

Home Home 6月4日，《金融时报》新闻（FT）昨天（6月3日）发表了一篇博客文章，告知“ AI” Yoshua Bengio的“教父”已建立了一个非营利组织的Lawzero组织，该组织致力于开发“诚实”系统并确定“欺诈性”系统。简要介绍蒙特利尔大学教授Bencio。他被称为“教父AI”，他与Geoffrey Hinton和Yann Lecun分享了2018年图灵奖（在计算机领域被公认为诺贝尔奖）。 Lawzero的使命是开发一个“诚实”的AI，该AI专门监视AI代理，他们在没有人类干预的情况下执行任务并阻止他们表现出欺骗性或个人防御行为，例如试图防止人类关闭系统。 Bencio开发的系统被称为AI科学家，旨在成为AI特工的“监护人”。用模仿人类和用户的“ actores”来完成现有的AI代理，但是科学似乎是“心理学家”"who can understand and predict bad behavior. Instead of giving clear answers, the system evaluates the correction of the response in a probability, reflecting a" humble "attitude. It can also predict the probability of damage caused by the behavior of the agents of AI, and if the probability exceeds the threshold. associated. Companies and governments to support a stronger version.Open source, and is looking for more resources to ensure that the "guardian" develops together with the Avuardia AI. He warned如果AI的代理可以在没有人类监督的情况下完成较长任务的序列，则可能会造成“严重”损害。