分卷阅读142(1 / 2)

恋爱坐标 反派二姐 3890 字 5个月前

或许全医院只有两三个医生能做,这样一来就可以有更多医生能够完成了。至于后者,虽然应用的方式不同,但目的是一样的,都是助于提高决策的透明度和可信度。”

“哦?”李翀汶和森泽航看着都很感兴趣,森泽航:“之前没听你说过,好像很有意思的样子。”

沛诚耸耸肩道:“这个项目我没实际参与,只简单了解一点。不过这可能和你们俩感兴趣的方向不太一样,你们的话……应该还是NLP更加对口吧,自然语言理解,比如语言模型的预训练以及多模态语言理解,或者如何提高模型的效率、性能和泛化能力,以及如何将语言理解与视觉、声音和环境理解相结合,提高智能理解能力这一类的。”

李翀汶认真地听完,忽然问:“你的论坛id叫什么?”

沛诚摇头:“我不在论坛里,我是坛友家属,过来帮你们端咖啡的。”见李翀汶显得很意外,他又指指森泽航:“其他的我都是听他说的。”

李翀汶由衷地感慨道:“真厉害,一下就能明白我想问的是什么,而且你刚才还在发呆。”

沛诚也笑起来:“都说了在发呆对不起了!”

“那伦理框架和规范呢?”李翀汶饶有兴趣地问,“这不是你们PPL的老本行吗?”

“呃……是的,”沛诚叹了口气,“相关的研究和讨论确实很多,但如果是我内心最真实的想法……”

李翀汶:“嗯?”

“我认为伦理问题不是人工智能发展的最大优先级,人工智能又没有生物生存和繁衍的本能,在发展技术之前去设想伦理约束这本身就是反直觉。与其担心机器人大军会不会奴役人类,还是考虑一下更实际的应用问题比较关键。”沛诚坦言道,“只要从算法的公平性和公正性出发,确保不会带有偏见和歧视就可以了,其他的问题都迎刃而解。”

“不对劲吧,说回到语言模型的训练,那也都是以投喂海量数据来训练的。既然无论是历史数据还是使用数据,都是由带有偏见和歧视的真人所生成的,模型学习之后难道还能自己有判断能力,通过算法将一些结构性的偏见问题排除掉吗?”提出这一质疑的却是森泽航。

沛诚想了想,道:“你说的也有道理,那么或许退一步说,看看你们这个人工智能最终的目的是什么了。是要创造一个纯洁无瑕、没有歧视和偏见的虚拟和平世界?还是别有用途。如果是前者,那么我感觉应该吸引不了多少用户,别说没有矛盾和分歧的环境从营销的角度上很难传播,一个每个人都同意尊重每个人的意见、毫无奖励机制的世界怎么会有趣呢?”

“就像游戏一样。”李翀汶很快明白了其中的关键所在。

“那么如果这未来将是一个产品,换言之他会被商品化,其实只要参与的用户有足够的知情权和同意权就可以了。在法律允许的范围内,成年人可以做出自己的判断和选择。”沛诚说。

“就像游戏氪金一样。”李翀汶笑起来。

沛诚余光瞥见森泽航炯炯有神盯着他的目光,后背禁不住有点冒汗——他平时不太和森泽航讨论这些事,怕影响他的想法,今天一没留神说太多了。这个亮晶晶的眼神他熟悉得很——一般而言要是旁边没有别人,森泽航就要上嘴啃他了。

“再比如说,你的草莓镇对吧?森泽航给我演示过,真挺厉害的。”沛诚硬着头皮继续说,“但是我禁不住想,如果未来这个世界被更广泛的用户测试,里面有很多人同时发生交互,所有使用数据包含无数条分支、无数种可能,不止有文字图象和声音,还连带最为细微的反射差别,反哺给AI帮助它深度学习,完成升级优化,那么它会变得越来越庞大。这些数据包含了太多往哪里存?还是说,如果把原始的feed删掉,只留一个已经完成学习了的AI,那么没有原始数据的模型,真的能保证它的行为决策仍旧会保持一致吗?”

沛诚问出了他上一次也问过的问题。

很显然,目前的李翀汶对此还没有答案,但已经能摸到一点边:“这个我也很困扰,目前的技术应该还不能达到,只有几种潜在的可行方向。比如说量子储存,如果能够实现,就能极大压缩存储空间,但目前这项技术还只是一个假设。”