有蹄类动物、统治者和起义:人工智能的释放

我们已经生活在未来. 我们有技术可以扫描我们的内部器官，看是否有疾病，而不需要一个小小的切口, 自动驾驶汽车, 几乎所有的人类知识都在我们的指尖, 毫不夸张地说，因为我们用来获取信息的强大机器只有我们的手掌大小，而且在一个大城市，以最低工资计算，只需517888九五至尊娱乐两个小时.

不管我们喜不喜欢, 贪婪的进步将我们推入了数字千年. 与所有重大技术进步一样，新能力也会引发一系列重要问题. 谁可以使用它, 谁能从中获利, 谁来负责规范它的使用是一些更为紧迫的问题.

如果你去年接触过任何形式的媒体, 你一定听说过人工智能的进步, 或者一个.I. 技术. ChatGPT的公开介绍，A.I.的自然语言处理工具成为全球头条新闻. 这是一个可以在线免费使用的聊天机器人，其功能包括执行日程安排和论文写作等任务, 甚至可以和人类用户对话. A.I.像Midjourney和DALL-E这样的艺术程序可以创造出从杰作的复制品到超现实主义的复制品，比如我个人最喜欢的:婴儿跳伞. 是的，它就像你想象的那样“让人不舒服地傻笑”.

从A开始.I. 灯里出了精灵, 我们需要批判性地讨论获取的重要问题, 利润, 以及对人工智能的监管，以及人工智能的使用对人类和地球造成的真正后果.

我是主持人杰斯·菲尼克斯，这里是617888九五至尊娱乐节目.

杰斯我很兴奋能和李博士谈话. 克里斯Mattmann, 首席技术和创新官, 也是人工智能部门的经理, 美国宇航局喷气推进实验室信息技术和解决方案理事会的分析和创新开发组织. 这可能是我说过的最长的游戏，但也是最酷的游戏之一. 所以除了这些之外, 克里斯也是国际公认的人工智能专家, 所以我想在今天的节目中借用他的知识. 克里斯，非常感谢你花时间和我谈话，帮助我们提高对人工智能的理解.

Dr. Mattmann杰西，我会尽力为你和你的观众. 你自己也很聪明. 很高兴能上你的节目.

杰斯啊，你太好了. 好吧, 首先，我想问一下，您能否给我们简要介绍一下人工智能这个术语, 这意味着什么?, 它的起源, 以及目前这项技术的发展状况.

Dr. Mattmann是的，是的. 人工智能有很多定义. 就像第一种，传统上是计算机像人类一样感知和思考. 所以感知是与环境的互动, 得到观察结果，然后决定如何处理, 是否要看某物并给它分类或贴上标签, 是否要看一堆东西并进行分类, 是否决定建造一些东西. 这就是电脑, 人工智能是计算机独立于人类，独立思考. 对于许多, 许多, 几十年, 人工智能无法实现这些目标，因为它缺乏计算能力，甚至缺乏实现这些目标的结构和模型. 换句话说，这只是纸上谈兵. 1998年我在南加州大学学习人工智能的时候, 这基本上是一门我们写出方程的课, 你知道, 真理、方程式、金块等等, 他们说, “哇, 如果我们能实现这些东西，那不是很酷吗, 但我们不能. 我们没有电脑.然后一切都变了，所以就这样了.

杰斯:哇. 所以，在我们的一生中有很多进步，当你想到这一点时，这是非常令人兴奋的. 所以，我想大胆猜测一下，我们的大多数听众都听说过ChatGPT. 我们有受过良好教育的观众, 他们中的许多人可能都玩过市面上可用的人工智能图像生成器或写作工具. 所以，我想再深入一点. 让你成为该领域专家的人工智能潜在应用是什么, 每天起床?

Dr. Mattmann你知道，多年来，杰西，我告诉你，这是人工智能的计算机视觉方面. 它甚至不像文本那么重要. 很长一段时间以来，我一直是一个喜欢发短信的人，在这个领域517888九五至尊娱乐过很多次, 但其中很多是计算机视觉元素. 让我为你和你的听众倒回时光. 你知道，我告诉很多人，“嘿，看，什么改变了?“在过去的二十年里，发生了变化的是，记住我刚刚给你们的人工智能的定义. 如果我们有计算机的计算能力来处理这些数据并让计算机自行运行，那不是很好吗, 感知等等? 好吧, 20年前，我们通过现代大数据框架实现了这一点, 比如Hadoop, 比如Spark, 蟒蛇Python, 和Python. 他们给了我们聚集的能力, 组织数据并进行大规模处理, 这些都是我们在商用计算机和其他东西之上建立人工智能模型所需要的东西. 并意识到过去十年我们只在书中写过的事情, 发生的事情是，我们有人工智能模型，实际上是在这些计算平台之上, 这比人类对所有基本感官的感知都要好. 那么，让我们从视觉开始. 刚刚离开b谷歌的Jeffrey Hinton说, “嘿, 人工智能是危险的,“他应该知道，因为他的学生, 亚历克斯, 亚历山大, 想出了亚历克斯Net. 2012年的亚历克斯Net在计算机视觉方面优于人类感知, 用于对象识别, 用于图像标记, 用于视频标签. 所以在2012年, 我们已经有了一个比人类表现更好的机器学习模型, 它是现代智能汽车的基础, 激光雷达数据和特斯拉, 你知道, 电动汽车和类似的东西. 2014年，我们有了一种不同的感觉. 这是b百度的深度语音模型. 和, 你知道, 我不想引爆任何人的东西, 我向听众甚至是家里的你道歉, 杰斯, 还有亚马逊的亚历克斯a或者谷歌之类的东西, 所有这些智能助手都需要听觉, 听到声音并将其翻译成文本和命令之类的东西. 这就是b百度的深度语音模型. b百度是一家中国搜索引擎公司. 2014年，我们在机器学习模型或人工智能模型中拥有比人类更好的耳朵. In 2018, 关于你的听众和ChatGPT, 我们有b谷歌的BERT, 哪个是双向实体表示转换器, 现代自然语言会话的基础是什么. 我用文字跟你说话，你用连贯的文字和其他东西回应我. 这是2018年的数据. 所以在过去的十年里, 在二十年前的基础上, 研究现代计算机, 我们现在有了人工智能驱动的现代感官, 这就是我每天早上起床的原因. 我刚在b谷歌看到杰弗里·迪恩了. 他刚刚发了一条推特，他基本上，现在我们有鼻子了. 我经常和我的妻子丽莎开玩笑，我说，“嘿，有人需要做一个嗅觉的人工智能模型.“完了。. 谷歌做到了，我们会有触摸的，到那时，机器就能做到了. 杰斯:好吧. 有趣的是你提到了鼻子因为那是我要去的地方. 我想，“好吧，电脑现在能闻出我们的味道了?“但很明显，你已经有人在上面了. 所以，这让我很震惊，我把b谷歌放在了我的手机助手上. 这是我们仅有的一个, 每天早晨我都讲, “好了谷歌, 请不要现在醒来.“我在看我的手机, 然后我问它, 你知道, 我跟它说早上好，然后它就会播放新闻，告诉我那天要做什么, 我从没想过这个问题. 就像, 我知道这是我脑后的人工智能, 但我没有意识到它是基于我们已经使用了几年的技术. 这似乎是一件新鲜的事情，因为我只有一两年才有这种能力. 这太酷了. 现在当然, 我必须做, “我不是电脑迷,所以我想知道, 你知道, 显然天网, 《517888九五至尊娱乐》, 他们都给我们安排好了这可能会出大问题, 所以它有点像螺旋式上升到调节人工智能的对话. 我听到了一些关于这个的讨论, 我只是想知道，你是否认为这项技术会围绕一个标准进行整合，从而使政府监管变得更容易、更有效, 或者你认为情况会保持多样化，监管会变得更加棘手吗?

Dr. Mattmann:是啊. 可能就在这中间，杰茜. 我们现在面临的挑战是，欧盟正在领导许多与人工智能组成部分相关的监管517888九五至尊娱乐. 那么，让我们来谈谈数据. 你知道, 欧盟在GDPR方面走在了前面，这是关于数据隐私保护的权利，以及将自己从这些在线数字平台中移除的能力. 然后，美国的公司.S.在美国，很多公司都在努力遵守GDPR之类的规定. 好吧, 现在有一种叫做“数字法案”的东西，他们以可以收集的数据的形式定义了更多的隐私权. 为什么这对人工智能很重要? 这很重要，因为安德鲁·杨在2020年竞选期间, 我喜欢这句话, 他说, 嘿, 你知道, 他说, “数据是新的石油.“这一点非常重要的原因是, 你知道, 石油, 为了给我们的汽油车提供动力, 需要从原油开采到精炼管道到92辛烷值之类的, 你知道? 因此，这些改进管道对AI来说同样非常重要. 人工智能希望从结构化表的角度来看待世界，其中的列和表是它所决定的特征, 表格中的每一行都是它所观察到的特征的样本. 但世界不是这样的. 就像我们说过的，世界很乱. 它是音频，电话，视频，诸如此类. 正因为如此, 我想说的是，在规范人工智能的数据方面，还有很多517888九五至尊娱乐要做, 所以这是一种方式，所以欧盟在这方面处于领先地位. 第二件事是, 一旦你有了人工智能的数据, 一旦你有了数据, 你需要规范人工智能模型的使用. 欧盟也通过了人工智能法案，他们正准备通过这项法案, 他们正在建立支持, 这就是调节, 好吧, 我们有数据，我们正在训练人工智能模型. 这是怎么回事? 首先，数据存在偏差. 这些都是现代人工智能伦理的基础. 数据有偏差. 因此，第一批用于机器学习和智能汽车人工智能模型的训练数据没有包括足够多的有色人种, 没有包括足够多的残疾人，诸如此类, 我们想让车停下来, 正确的? 你知道，当他们看到它们时，这些数据集是有偏见的. 所以, 我们需要平衡和消除训练数据集的偏差, 因为人工智能的聪明程度取决于我们训练它使用的数据. 第二个, 当人工智能做出预测时, 很多时候, 你知道, 我用天气来描述. 明天会下雨，然后[听不清00:09:45]不下雨. 我们在南加州，那很好，但我们坐在那里，就像，“为什么不下雨?“那是因为他们从来没有告诉你，只有15%的信心会下雨, 之后的每一个决定都很糟糕, 但最好的是15%, 这真的不是很好. So, 当我们做决定时，或者当我们让AI做决定时, 我们需要报告对它的信心. 最后，所有这些人工智能自动化，将取代517888九五至尊娱乐. 你可以把呼叫中心想象成一个, 你知道, 很多人谈论卡车司机和卡车司机在非常危险的18小时路线上, 可能会有, 我不会就此展开讨论但这确实是一个可能会造成工人失业的领域. 以呼叫中心为例. 自2018年以来, b谷歌有一个呼叫中心人工智能助手，你可以打电话给它, 我会帮你预约吗, 它会代表你打电话, 收集数据, 就像, 约个时间去美甲沙龙, 为你的孩子预约看医生, 无论, 存在. 那么，在接下来的24个月里，我们要怎么处理这些人呢? 告诉他们学习编程? 我不认为这是个好答案. 我认为我们需要提高技能的项目. 我想我们需要... 是的，我认为. 无论如何，所有这些都是监管框架和人工智能法案正在做的事情. 美国.S. 正在寻求跟进, 还有很多西方国家, 不一定是南半球, 他们是独立的，还在发展这些东西. 然后另一件事就是罢工. 罢工, 是好莱坞罢工的根源, WGA罢工, 作家罢工, 罢工与演员和AMPTP有关, 其核心是人工智能. 这是人们的肖像, 这是他们的数据, 而是它们如何用于未来的生成式人工智能, 所以期待欧盟的影响.

杰斯好像欧洲是, 是很多监管517888九五至尊娱乐的先锋, 然后是美国.S. 之后跌跌撞撞地走着. 在很多事情上，欧盟似乎更像是一个自愿的联盟. 好了. 所以把这个话题稍微转到617888九五至尊娱乐上. 我可以在617888九五至尊娱乐中看到大量的应用，我想到的最简单的一个是地球617888九五至尊娱乐, 哪个是我的面包和黄油, 会分析来自不同火山区域的地震数据还是来自已知的地壳板块, 我认为这很有道理. 一直以来都有很多关于小地震发生的数据. 每时每刻都有成百上千的人. So, 我们还看到人工智能在哪些方面改变了617888九五至尊娱乐的面貌, 617888九五至尊娱乐研究, 分析数据? 比如，哪些事情真正引起了你的注意?

Dr. Mattmann嗯，有几种不同的方式. So, 事实上，我对人工智能在不同617888九五至尊娱乐问题上的应用感到非常兴奋, 如你所说, 地震火山学, 你知道, 其他的事情. 地球617888九五至尊娱乐遥感是我最关心的一个问题, 尤其是美国西部的水. 所以，人工智能在几个不同的领域都有潜力. 首先，很多时候对于617888九五至尊娱乐算法，我们试着去构建，我们做两件事. 我们建立了一个完整的物理模型来模拟我们想要模拟的东西, 所以我们要开发一种多参数的617888九五至尊娱乐模型. 我们来看看, 你知道, 在巨大的时间或地质尺度上，有数万到数十万次的跑步, 有时我们甚至会在本地或区域内进行. 但你可以用生成式人工智能模拟所有这些517888九五至尊娱乐, 你知道, 在某些情况下, 这些模型的参数化, 这些模型的结果. 见鬼，你甚至可以使用生成式AI来模拟或在模型的不同运行之间进行插值. 很多时候，像你们这样的617888九五至尊娱乐家会告诉像我这样的计算机617888九五至尊娱乐家, “嘿, 你在100年的尺度上运行, 太棒了. 它的时间戳是10年，或者是一年. 我真希望能在月或日之类的时间戳上看到它,“但我们又要这么做了, 需要我们在大电脑上重做, 我们并不是一直都这么做, 正确的? 但有了生成式人工智能，我们就可以进行插值. 换句话说，我们可以猜测, 或者让人工智能在这些模型中运行所有不同的场景和参数, 而且成本也小得多, 正确的? 用于训练模型和产生输出. So, 在这些案例中，我真的很兴奋，因为我们可以做更多的探索性分析, 问题回答, 617888九五至尊娱乐问题, 假设开发. 另一个就像你刚才说的，关于数据，关于海量数据. 所以，让我们拿一些我觉得安全的东西，我的安全地带，美国西部的水.S. 我花了很多时间和不同的617888九五至尊娱乐家一起研究. 在加州山脉，人们仍然在雪中进行测量, 有多少, 雪有多厚啊, 因为事实证明, 我们的供水很大程度上取决于融了多少雪，我们节约了多少水，还有水库和其他地方, 然后分发到不同的州和地区. 首先，这很危险? 是很危险的. 我是说，除非你遇到了意外，你知道，然后你就上去做了. 但请按正义书来. 但除此之外，是很危险的. 所以, 我们花了很多时间在项目上尝试用遥感仪器进行测量, 产生的数据可以做得更好, 更少的危险，更多的时空覆盖，这样我们就可以有更好的模型. 现在的挑战是在很短的时间内产生大量的数据, 很多时候617888九五至尊娱乐家们, 你知道, 他们想要存储数据, 对不起，孩子们, 在你的桌子下面, 然后你需要花12到18个月的时间来回顾它. 但有时它有24小时的要求. 把它弄出来, 你需要使用人工智能或机器学习来更快地提取信息, 这就是它能起作用的地方. 这是, 想象一下，一群机器人可以帮助杰西和她的同事更快地进行分析，这是帮助我们的另一个潜力.

杰斯嗯，我不会放弃自己出去取样熔岩的. 我不在乎人工智能做得有多好, 还有那些小的人工智能或机器狗，他们想把它们用于警察517888九五至尊娱乐, 我就像, “你可以把其中一个送入熔岩, 这很好. 它会融化.但是，好吧. So, 我这里有另一种调查方式, 围绕着开源人工智能, 因为全世界有很多人贡献了时间和精力，他们正在创建公开可用的代码. 因此，这意味着创新的步伐比企业或政府领域要快. 那么，你认为开源是人工智能的未来吗?

Dr. Mattmann这是个好问题. 2013年至2018年，我是阿帕奇基金会的董事会成员, 我就像. 开源很长一段时间了. 现在, 我来告诉你, 我真的很欣赏开源，尤其是在人工智能的背景下, 它允许人们做出贡献. 在某种程度上，它剥夺了一些公司的权力. 目前只有5到10家公司能够开发出类似gpt的模型. 你知道，这是按订单收费的，八位数以上. 这是按订单收费的, 花几个月的时间在世界上最强大的超级计算机上训练，只有他们才能使用. 所以，开源人工智能和模型构建确实在某种程度上517888九五至尊娱乐化了这一点. 所以，这真的很棒. 这只是一个例子, Meta最初的模型叫做LLaMA, 哪个是它们的ChatGPT等价物, 训练多达650亿个参数, 哪个尺寸差不多, 这是大脑的大小, 如果你愿意, 它被训练的模型. 第一个版本泄露了. 他们不喜欢那样. 然后梅塔出来了，他们说, 好吧, 你知道, 我们将使用开源许可来限制表面积, 你知道, 泄漏的暴露或损坏区域. 但问题是, 当它泄露的时候, 很多人都能接触到它，他们把它贴在很多不同的地方, 人们想知道, 我可以在商业上使用它吗? 我可以在学术上使用它吗? 我怎么用这个? 最终发生的事情有很多, 许多, 许多衍生作品被创作出来, 其中一个很酷，是斯坦福大学的人发明的，叫做羊驼. 我不知道这是什么动物, 但骆驼, 羊驼, 无论, 我也在图像上看到过抚摸羊驼. 但是他们很可爱. 不管怎样，是的. 所以，斯坦福的羊驼基本上是原始LLaMA模型的一个更517888九五至尊娱乐化的版本. 这是斯坦福大学提供的，我很信任, 开源许可证之类的东西, 作为一个学术人士，甚至是商业人士, 你可以用在更好的地方. 现在, 梅塔从中吸取了教训, 就像很久以前他们对React所做的那样，他们发布了React web框架，并试图在一个, 你知道, 完全开放源码许可的方式确实使他们受益, 结果不太好, 他们必须在一个真正的开源许可下重新授权它. 所以在LLaMA-2中，Meta确实与微软合作发布了他们的基础模型. 人们会说，是的，这是开源的. 细节决定成败，所以我得小心了. 比如，大公司说他们在做开源，其实他们做得并不多. 总的来说，我是开源AI的粉丝吗?这和开源有细微差别吗? 绝对. 但是学者们正在做这些, 比我所在的公司更喜欢我, 如果你深入研究这些东西, 它根本不是真正的开源，如果你曾经试图用它来造福你, 结果不会那么好. 然后, 我要说的最后一件事与此相关的是现在有一个大讨论, 因为人工智能模型的开源生态系统让大公司... 我们有20国集团，有一个C20，对吧，公司. 它让C20有点, 我会说紧张，因为这超出了他们的控制能力. 所以, 即使是第一代ChatGPT，我总是告诉别人, 开源版本的机器人被植入了波士顿动力公司的机器狗，杰斯很喜欢在熔岩中融化, 能造成很大的破坏吗, 比如在坏人手里造成巨大损失. 这些模型，想象一下给其中一只狗配备了推理的能力. 我的意思是, 微软研究院的一篇论文说GPT-4, 他们怀疑埃里克·霍维茨是否, 微软的首席617888九五至尊娱乐官也在质疑它是否能通过转弯测试, 检验它是否有知觉的方法是什么. 比如，GPT-4本身就非常强大. 我告诉人们的是, 我们应该担心GPT-6和gpt - 7, 这可能, 这些公司已经在尝试增长, 增加他们的模型尺寸. 想象一下它们的力量, 再加上这些东西已经存在了, 即使是现在的基础模型, 我们有理由感到担忧.

杰斯这是令人难以置信的信息, 我不认为我们今天会讨论有蹄类动物, 但是我们在这里. 大羊驼，羊驼，你知道，让我们把所有的四足朋友也扔进去吧. 所以,好的. 我马上就要和你一起结束了, 也就是说该问我最喜欢的问题了, 这是, 你知道, 我代表忧思617888九五至尊娱乐家联盟, 这是我们的播客. 所以，我总是问我的客人一个重要的问题，克里斯，你为什么担心?

Dr. Mattmann:总的来说，我很担心，因为人工智能是一个非常, 这是一个非常强大的工具，但我不认为它会对人们的生活和正确的人群产生影响. 我认为人工智能几乎就像UFO. 我认为, 你知道, 40年前，你说了UFO这个词，你就会被电视嘲笑, 你的飞行员, 你的驾照被吊销了. 一切都很安静. 现在通过对这些uap和类似的东西的认真研究和严谨, 人, 人们意识到这种情况已经持续了很长时间而不为人所知, 我想现在世界上70%的人看到ufo之类的东西会说, “嘿, 也许我真的相信这些东西.“针已经在那上面移动了. 我认为我们正处于人工智能的一个类似拐点. 我觉得太多就像AI哈哈哈, 他, 你知道, 它没有意识到它的真正影响, 再一次。, 人们的生活, 员工人数减少, 技能转变. 我只是害怕和担心，我们将会有这样一个场景，我们可能会有很大一部分人仍然想要517888九五至尊娱乐，只接受过训练，当福特在南帕萨迪纳被淘汰时，他们才会517888九五至尊娱乐, 他们在110号高速公路上行驶，这条高速公路是为他们而不是为越野车而建的.

杰斯:太好了. 我真的很欣赏你的洞察力，非常感谢你来这里和我一起在虚拟世界, 来谈谈我们希望不是未来的机器人霸主, 我真的很感激, 克里斯. 非常感谢.

Dr. Mattmann谢谢你，杰西. 我真的很感激你，谢谢大家的聆听.

杰斯在我和克里斯谈过之后, 我想把这一集的剩余部分引导到A的现实意义上.I. 技术. 大跃进当然是要付出代价的, 就像我们在历史上看到的那样，每次我们采用革命性的新技术. 生活被改变了, 我们的自然环境受到了影响, 总有人要为新技术所要求的价格买单. 让我们深入探讨一下. 场景:4

杰斯和我一起主持节目第二部分的是梅里姆·贝卡, VMware可持续发展创新高级产品经理, 哪家科技公司专注于云计算和虚拟化. 当我们讨论人工智能技术的全部后果和可能性时，梅里姆的517888九五至尊娱乐提供了迫切需要的社会和环境背景. 非常感谢你能来，梅里姆.

Meriem谢谢你邀请我，杰西.

杰斯我很高兴能和你一起深入探讨AI故事的这一方面. 所以你能不能先给我们介绍一下你是如何开始在人工智能与环境和社会问题的交叉领域517888九五至尊娱乐的? 这绝对不是我在大学时看到的学位课程.

Meriem:是啊. 我上大学的时候当然也没有. 我的背景是政治和经济，我的故事要从2010年说起. 当时正值阿拉伯之春的高潮，我正在开罗和大马士革完成本617888九五至尊娱乐业并做研究. 所以，它真正开始于社交媒体和社会运动的交集. So, 这些起义, 这是第一次, 你知道, 社交媒体真正流行起来是在2000年代中期, 这是我们第一次有如此大规模的社会运动通过社交媒体推动. 这在现在变得更加普遍了. 我们看到人们在社交媒体上组织了很多活动，但在当时，这是前所未有的. 所以, 一方面, 看到科技的力量可以在几天或几个月内扩大这种类型的活动，这真的是惊人和不可思议的, 另一方面, 这其中也有隐忧. 所以我们看到虚假信息和错误信息像野火一样蔓延，比通过流行的媒体形式传播的速度要快得多. 我们看到政府针对那些在网络平台上更加开放的活动人士. 所以, 在这一点上, 我开始对科技对社会的影响产生兴趣, 我们塑造科技的方式以及科技如何塑造我们. 在那之后，我非常幸运地开始和前总统吉米·卡特一起在他的冲突解决部门517888九五至尊娱乐, 我们在那里开创了一个项目，利用叙利亚冲突的公开数据来指导人道主义517888九五至尊娱乐和秘密谈判. 所以, 再一次。, 叙利亚冲突是社交媒体时代发生的第一次如此大规模的冲突, 很多都被记录在了网上, 这再一次, 是前所未有的. 通常，冲突是一个黑盒子. 我们不知道里面发生了什么，直到我们能够解释战争罪行并了解参与其中的各方. 而对于叙利亚冲突有一点阿拉伯语翻译和好的分析工具, 我们可以看到不同的武装组织, 不同地区的控制和更有效地指导人道主义运送和反向渠道谈判. 这项517888九五至尊娱乐得到了几家科技公司的支持, 这让我很好奇他们的动机是什么. 你知道，他们为什么支持这项517888九五至尊娱乐? 为什么他们选择了卡特中心和我们而不是其他组织? 他们在叙利亚冲突中的利益是什么? 所以，这让我想... 我做很多事情都是出于好奇, 所以从人类学的角度来看, 我想加入其中一家公司，真正了解他们是如何思考推动社会变革的, 尤其是因为他们在其中扮演了如此重要的角色. 我当时不知道脸谱网和推特是否真的看到了它们在这些国家所产生的影响，就它们塑造社会、政治和政府的方式而言. 所以, 我很幸运地在VMware的社会影响部门获得了一个职位, 到目前为止，他已经在VMware517888九五至尊娱乐了8年. 我想说的是，另一个对我来说非常关键的时刻是在2017年或2018年左右. 我和凯特·克劳福德去听了一个关于人工智能的讲座, 是谁, 我想她是微软的首席研究员，也是人工智能研究所的联合创始人之一, 那是我第一次真正意识到人工智能对社会的影响, 以及这项技术是如何形成的. So, 你知道, 你的嘉宾可能在播客中了解了更多关于人工智能的知识, 它主要使用来自互联网的大量数据集, 还有其他来源. 所以, 想想历史上它用来训练的数据, 其中很多都是基于使用互联网的人, 这些局限于特定的国家，特定的人口结构和特定的财富群体. 因此，并不是每个人都有代表. 所以, 这对我来说是一个巨大的洞察力，人工智能无法正确识别出那些更忧郁的人, 深色皮肤的人. 人工智能可能会被用来尝试... 她分享了一个人工智能被用来识别LGBT+群体中的人并起诉他们的例子. 所以，这让我... 另一方面让人担忧的是作为人类, 比起人类，我们更倾向于相信机器. 所以, 也有故事说，人们会跟着谷歌地图开车下桥，因为它告诉他们往某个方向走. 所以，这对我来说是一个转折点，因为我想要到处发出警报. 你知道，有一项技术，它发展得非常迅速. 它影响着我们生活的方方面面. 我们会在很多不同的方面依赖它, 我们没有充分了解构建它的数据以及它是如何以一种更有偏见的方式影响我们的社会的. 杰斯这是一种进入人工智能世界的有趣方式. 你真的触及了很多东西，有点, 它们与人工智能体验无关，但随着这项技术变得越来越普遍，越来越融入我们的日常生活，它们对我们来说是必不可少的. 所以, 我想问你一些关于环境现实的问题, 好吧, 正在发生或已经发生，因为我们正在使用更多的人工智能. 和, 你知道, 我们不会因为问Siri或谷歌一个问题就看到烟囱里冒出大片棕色的污染云, 而是使用人工智能对我们的星球有什么现实后果, 对于生态系统, 对我们人类来说?

Meriem:是啊. 这是一个很好的问题, 杰斯, 确实，我们并不是每次发送电子邮件或向GPT提问时都能看到一大团烟云. 甚至这个词, 云, 你知道, 这是一个用词不当，因为它给你的感觉就像水和空气一样, 但事实并非如此. 和, 总的来说，信息通信技术产业对地球的影响是巨大的, 更不用说人工智能了. So, ICT或信息通信技术行业每年的碳足迹占世界碳足迹的3%. 3%听起来不算多，但实际上比整个航空业都要多. 所以, 这本身就已经很大了, 人工智能只是数据中心运行的众多数字517888九五至尊娱乐负载的一部分. 所以，在过去的五六年里，一些数据开始出现. In 2019, 有一项研究是关于训练单个人工智能模型的, 有2亿个参数, 这是很有规律的, 而不是ChatGPT和LLaMA的水平，它们有数十亿个参数. 但一个2亿参数的模型训练，其碳排放量相当于5辆汽车的全寿命. So, 这包括制造汽车的成本，我们称之为隐含碳，一直到汽车生命周期结束, 它消耗的所有柴油. 我们知道微软使用了大约700个,在GPT-3的训练中喝了000升淡水, 这相当于制造370辆宝马汽车所需的能量. 这就是训练模型的方法. 就其每年的排放量而言，ChatGPT的排放量相当于8.每年排放4吨二氧化碳，是一个人排放量的两倍. 这听起来可能还是有点理论性, 但为了让它更个人化, 因为希望大家都玩过ChatGPT或其他人工智能聊天机器人. 但一个相对简短的20到50个问题的对话将使用半升水. 所以, 我在想, 你知道, 我几周前才知道，我在想我问过ChatGPT的所有琐碎的事情，我可能只是谷歌代替, 以及所有可能产生的影响. 所以, 有一件事对我来说非常重要，也是我在VMware和我的团队517888九五至尊娱乐中所关注的，那就是我们如何首先让人们看到这一点? 因为很多人不知道. 和, 你知道, 我不认为, 因为我们认为全世界有数百万人在使用ChatGPT, 我们大多数人只是没有意识到这一点, 我们为什么要? 我认为让人们接触到这项技术并能够使用它是很重要的, 这是创造技术的人们和我们这边的人的责任，让这些影响可见，这样消费者就可以做出明智的选择. 杰斯这是很多信息，因为我随便问b谷歌, 就像, 你知道, “天气怎么样?? 给我播放新闻.“我经常这样做，这并不像ChatGPT对话那样激烈. 但我知道很多人真的很喜欢用人工智能来进行ART和解决问题, 我相信有很多学生在写论文的时候都想用它. 但是，让我们先从道德的角度来看一下. So, 显然对于每一项技术, 我们必须考虑如何使用这项技术的道德问题. 你是否听过同事们关于道德和人工智能的讨论，你认为我们在前进的过程中需要什么样的护栏?

Meriem:是啊. 在VMware中, 我们就道德问题进行了讨论, 这至少是三四年前的事了. VMware创建了第一个关于人工智能的道德准则，关于人工智能的原则，这包括...我真的认为，这包括可持续性，这并不总是包括在内. 但它涵盖了你在今天任何一种流行的人工智能监管中都会看到的东西, so, 算法的歧视, 人工智能安全, 数据隐私, 注意事项及说明. 所以, 有一场激烈的讨论, 我会说, 甚至与其他公司的同事交谈, 很多人都意识到这是一个问题. 甚至我们的许多客户都意识到这是一个问题, 并且可能会更加谨慎地进行，以确保我们知道投资人工智能系统的法律界限是什么. 但我想说的是，不只是VMware，整个行业都面临着挑战, 我们如何将这些原则和道德实践付诸实践? 和, 这可能是, 我想说，在道德人工智能领域，从业者面临的最大挑战是思考, 当我们探索公平的AI是什么样子的时候, 有更多可解释的人工智能来确保数据保护到位, 我们如何在我们的平台、产品和系统的前端构建这些? 还有各种各样的技术原因，通常还有政治原因, 有时只是出于商业原因, 你知道, 我认为对大多数公司来说都是股东价值, 当你试图优先考虑那些你可能不会立即看到底线影响的事情时，这也是一个棘手的地方. 但我认为我们所说的以及我们团队所关注的是, A, 这将使我们长期可持续发展, 和B, 这将帮助我们的客户保持合规，因为所有这些各种各样的法规都即将出台.

杰斯嗯，好吧. 这很有道理. 很棒的是，这些对话, 它们并不是刚刚开始, 他们已经走了一段时间了. 我的意思是, 我知道人工智能是在去年左右突然出现在公众面前的, 但很明显，它在科技界是一支不断壮大的力量. 所以，我也注意到，似乎每天我们都会收到另一份关于数据泄露的报告. 比如, 11月我要去拉斯维加斯旅行, 我只是想看看不同的酒店选择, 所有的米高梅度假村网站都瘫痪了，比如百乐宫和米高梅大酒店. 比如，你不能上网预订. 这类数据泄露, 我的意思是, 他们被黑了，然后被勒索了赎金, 这种情况经常发生. So, 当其中一些发生时, 显然，酒店预订并不是什么大事, 但如果发生数据泄露我们有了个人身份信息, 医疗或财务方面的敏感信息可能会泄露出去, 购物习惯, 人工智能在数据隐私方面扮演什么角色, 是好是坏?

Meriem:是啊. 我觉得我们才刚刚开始理解这个挑战的范围是人工智能的安全和隐私. 我认为，任何一家能够提供安全和隐私的公司，在他们的人工智能平台上，在市场上都有很好的地位, 因为我知道很多人都是这样, 因为他们建立了自己的模型, 因为他们想为自己的企业创造自己的人工智能, 他们会非常关注安全和隐私. 和, 你知道, 这是, 我认为一方面, 是的, 这是受GDPR等政策保护的, 哪个来自欧盟, 但在商业方面也是如此, 他们需要确保自己的知识产权受到保护, 他们客户的数据是受保护的. 因此，我绝对认为这将是非常重要的. 人工智能模型的有趣之处在于它的语言特别大, 如你们所知, 我知道你的客人们在整个播客中都听到了, 人工智能有很多不同的形式，大型语言模型只是人工智能的一种. 而这些人往往特别脆弱. 你可以影响他们得出不准确的结果. 你可以哄骗他们提供他们不应该提供的信息. 实际上有一个, 这是今年DEF CON上第一个如此规模的活动. 这是一个红队活动，实际上是由. Rumman Chowdhury曾在推特领导人工智能伦理，现在是X. 事件, 这是一种老派的黑客思维，你只是让一群黑客去聊天机器人，试图把它们推到边缘, 让他们说不该说的话, 或者透露他们不应该透露的事情. 所以, 你有一些像, 泄露人们的信用卡信息, 或者是任何它不能得到的信息. 我认为这些都是很好的例子，它们帮助我们了解隐私和安全领域的漏洞和风险的范围. 我会鼓励人们，因为我们对这项技术有了更多的了解, 只是对你输入的内容要非常谨慎. 了解公司发布的隐私政策. Zoom最近受到了抨击，因为他们更新了他们的隐私政策，而且关于他们在人工智能培训中使用客户Zoom会议记录的能力，他们的语言真的很含糊, 人们说... 我的意思是，公司使用Zoom，所以他们说，“显然我们不希望那样.“他们不得不站出来修改政策，并发表声明说，要么是被误解了，要么是他们更新了政策, 谁知道那里到底发生了什么, 但这些都是消费者真正应该意识到的事情. 联邦贸易委员会现在对我们有利. 他们也试图走出去了解，甚至是关于版权的. 我知道他们现在正在做一项调查，询问美国人他们认为应该允许训练模型的内容. 我们所熟知和喜爱的书籍是否应该受到版权的保护, 应该用来训练模型吗? 所以,是的. 我认为，在我们进一步了解这一挑战的范围时，保持清醒将是至关重要的.

杰斯那是迷人而又隐约可怕的. 我只是在想过去几年我跟极速的对话. 我不知道你是否想训练一个人工智能, 因为人工智能对火山很擅长，对其他方面就不太擅长了. 好吧. So, 这让我回到了人类的一面, 显然，我们谈到了一些环境问题和道德问题, 但在过去的几年里，自从乔治·弗洛伊德被谋杀以及由此引发的一切事件以来，这个问题一直是全国讨论的焦点. 因此，歧视发生了. 这发生在政策上, 它发生在环境条件下, 接受教育的机会, 金融的机会, 当局对待人民的方式, 它遍及我们社会的方方面面. 因此，人工智能是助长歧视还是试图消除歧视, 当我们使用人工智能时，我们需要做些什么来防止我们所看到的这种歧视?

Meriem:是啊. 这是个好问题, 这是两种情况都可能发生的情况之一, 但根据我的偏见和517888九五至尊娱乐, 我更倾向于理解人工智能传播歧视的方式. 我想分享一个很好的例子来说明这一点. 在某种程度上，亚马逊决定使用一种招聘工具来帮助它扫描简历. 这样做的目的是很好的，因为人类也有很多偏见. 有很多研究表明，仅仅因为一个名字和名字的拼写方式，或者一个名字看起来可能来自某个背景, 我们会无视简历. 所以，他们的意图是，我们将使用人工智能，它会让我们更快，机器没有偏见，对吧? 我认为我们最大的用词不当就是我们相信机器. 我们认为机器是没有情感的机器人, 因为它没有情感, 它不会有偏差. 我们真的认为它会以这种方式行事, 但不幸的是, 它接受训练的数据是，从历史上看，他们公司的表现最好的人主要是男性. 所以最后，这个人工智能排除了任何带有“女性”字样的简历. 所以, 即使你是工程师或编程组的女性成员, 它会排除你的简历, 所以当然, 他们很快就发现了这个问题，并停止了它. 但我认为这是一个很好的例子，说明了有害人工智能的道路是如何由想要以可扩展的方式做事的良好意图铺就的, 以一种不包含人类偏见的方式. 还有一个很好的例子. 几年前，POLITICO做了一项关于人工智能如何在法律体系中使用的研究, 黑人被告再次犯罪的可能性是黑人被告的两倍. 所以我认为，它绝对可以影响人们的生活. 还有一些, 有几个作者影响了我对这个问题的看法, 弗吉尼亚·尤班克斯教授, 她写了一本书, 《517888九五至尊娱乐》讲述了技术如何应用于政府服务, 以及它是如何在我们的社会中传播不平等的, 这真的很有趣. So, 我鼓励大家去看看萨菲亚·诺布尔教授写的《压迫的算法, 她是搜索算法的先驱, 我们的常规搜索算法也在传播偏见. 比如你搜索专业发型的时候, 最主要的是直发或者以欧洲为中心的白色发型. 因此，有很多研究表明人工智能是如何在我们的社会中传播现有偏见的. 我想我鼓励大家考虑的第二层问题是，我们有时是如何更信任科技而不是人类的. 所以, 确保当我们从ChatGPT得到答案时，我们有额外的批判性眼光, 就像, 根本不是这样...比如，它应该被视为真理的来源.

杰斯: So, 从本质上讲，我们需要确保我们正在训练人工智能，使其朝着我们本性中更好的一面努力，而不是像我们一样幼稚或肮脏的一面, 我们很多人都有，有时我们甚至没有意识到. 所以,是的. 机器只会和创造它们的人一样好，这是完全合理的, 所以我们必须不断地检查我们在做什么以及为什么. 你举的例子很吸引人. 我爱它，我相信它. So, 因为我们已经泄露了人工智能的秘密, 它不会回去, 我总是喜欢问最后一个问题，因为我们是忧思617888九五至尊娱乐家联盟. 在机器学习、神经网络和自动驾驶汽车的时代，梅里姆，你为什么要担心呢?

Meriem可能有太多的原因，因为我是一个正在康复的愤世嫉俗者. 但我想说的是现在, 我最担心的是，我们将错过塑造这一迅速崛起的行业的机会, 改变游戏规则的技术，以一种有效地为每个人服务的方式. 和, 我想以一个充满希望的音符结束, 因为我认为这是一种对抗方法或者是一种治疗方法, 我真的相信希望是一种自律吗. 我知道更多的人会谈论终结者的场景, 我再次敦促人们, 批判性地思考这个问题. 想想我们今天面临的问题. 但, 你知道, 因为事情会让人觉得难以承受、可怕或可怕, 只要坚持一种能动性和决心，我们就能把事情做得更好, 我们确实有能力这么做. 我现在就是这么想的, 特别是人工智能, 这是一项改变游戏规则的技术，我们需要更多的人参与进来，以一种服务于我们所有人的方式来塑造它. So, 我希望听到这篇文章的人能受到启发，参与其中, 他们的声音被听到了吗?, 成为塑造我们未来的一份子.

杰斯:太好了. 非常感谢您分享您的专业知识和见解, Meriem, 希望将来我们能再讨论一些更酷的人工智能发展.

Meriem非常感谢，杰西. 我很感激.