《绝命毒师》的生成模型( 二 ) 几天前有这样一则新闻：济南

文章图片

文章图片

图片来自：Unsplash
其实， CollaborationsPharmaceuticals公司并没有评估模型生成的虚拟分子的可合成性，也没有探索如何制造它们。但对于这两个过程，都有现成的商业模式和开源软件。虽然他们也没有物理合成任何分子，但全球范围内有数百家商业公司可以提供化学合成。
他们的探索，证明一件事：非人类的自主创造者也可以制造致命化学武器。
虽然目前要生成可能造成重大伤害的有毒物质或生物制剂仍然需要一些化学或毒理学领域的专业知识，但加入机器学习模型后，技术门槛就会大大降低，需要的可能只是编码和理解模型输出的能力。

文章图片

文章图片

图片来自：Unsplash
商业工具，开源软件工具和公共数据库中的许多数据集，都可以在没有监督的情况下使用，利用人工智能生成有害分子的模型似乎成了一个被打开的「魔盒」。生成的这些分子可以被轻松抹去，但如何创造它们的知识却不会消失。
很明显，必须要想办法避免这种对人工智能的滥用。Urbina认为，人工智能驱动的化学战并不会很快出现，但存在这种可能。

文章图片

文章图片

图片来自：Unsplash
公司的MegaSyn是商业产品，他们可控制谁可以访问它，未来也可能会对模型实施限制。像硅谷的OpenAI组织的「GPT-3」语言模型那样，虽然可以随时免费使用它，但他们随时可以切断用户对这些模型的访问。

文章图片

文章图片

图片来自：Synced
Urbina还提到，大学也要加倍努力对理科学生进行道德培训，并将范围扩大到其他学科，尤其是计算机专业的学生，让他们能意识到人工智能滥用的可能性。
这项探索似乎再次印证了人们总说的那句话：技术无罪，造福还是作恶，取决于使用者的目的。
本文来自微信公众号“爱范儿”（ID：ifanr），作者：邓南， 36氪经授权发布。