世界百事通！AI哨所｜著名“AI教父”从谷歌离职：我为发展AI而后悔
凤凰网科技讯 《AI哨所》北京时间5月2日消息，有“AI教父”之称的杰弗里辛顿(Geoffrey Hinton)周一宣布，他已经从谷歌公司离职。半个世纪以来，辛顿一直在培养ChatGPT等聊天机器人背后的核心技术。但是现在，他担心AI会造成严重危害。
凤凰网科技《AI哨所》了解到，辛顿是AI先锋。2012年，辛顿博士和他在多伦多大学所带的两名研究生开发的技术，成为了AI系统的知识基础。如今，科技行业的巨头们认为，AI系统是它们未来发展的关键。
(资料图片)
为发展AI而后悔
然而就在周一，他正式加入了越来越多的AI批评人士的行列。他们认为，这些公司积极开发基于生成式AI的产品，ChatGPT等热门聊天机器人等被快速研发，这是在奔向危险。
辛顿说，他已经辞编程客栈去了谷歌的工作，以便自己可以自由地谈论AI的风险。他已经在谷歌工作了十多年，成为该领域最受尊敬的人物之一。辛顿表示，他现在对自己一生从事的工作感到有些后悔。
“我用平常的借口来安慰自己：就算我没做，别人也会做的。”上周，辛顿在多伦多家中的餐厅接受了长篇采访时称。那里距离他和学生取得AI突破的地方只有几步之遥。
辛顿从AI开拓者到末日预言者的转变，标志着科技行业在这个几十年来也许最重要的拐点上经历了一个非凡时刻。业界领袖认为，新的AI系统可能与20世纪9python0年代初推出的网络浏览器一样重要，并可能引发从药物研究到教育等领域的突破。
但是，令许多业内人士苦恼的是，他们担心自己正在向野外释放一些危险东西。生成式AI已经可以成为制造虚假信息的工具。很快，它可能会对就业构成威胁。科技行业最大的担忧者表示，在未来的某个时候，它可能会对人类构成威胁。
辛顿对此表示，“很难想象你能如何阻止坏人利用它做坏事”。
自从OpenAI在3月份发布了最新版ChatGPT-4模型后，包括马斯克在内的上千名科技领袖和高管签署联名信，呼吁暂停开发比ChatGPT-4更先进模型6个月时间，因为AI“对社会和人类构成了深刻风险”。几天后，有40年历史的学术组织人工智能促进协会的19位现任和前任领导人发表了他们自己的公开信，警告AI的风险。该组织包括微软首席科学官埃里克霍维茨(Eric Horvitz)。微软已将OpenAI的技术应用于一系列产js品，包括必应搜索引擎。
辛顿没有在这两封信上签名。他说，在辞职之前，他不想公开批评谷歌或其他公司。上个月，他通知公司他将辞职。周四，他与谷歌母公司Alphabet CEO桑达尔皮查伊(Sundar Pichai)通了电话。他拒绝公开讨论与皮查伊谈话的细节。
谷歌首席科学家杰夫迪恩(Jeff Dean)在一份CyRgKkHImR声明中表示：“我们仍然致力于对AI采取负责任的态度。我们在不断学习了解新出现的风险的同时，也在大胆创新。”
AI危险更快到来
辛顿认为，随着企业改进AI系统，它们会变得越来越危险。“看看五年前和现在的情况，”他在谈到AI技术时说，“接受差异并将其传播出去。太可怕了。”
他表示，直到去年，谷歌一直是这项技术的“适当管理者”，小心翼翼地不释放可能造成伤害的东西。但是现在，微软用聊天机器人增强了必应搜索引擎，挑战谷歌的核心业务，导致谷歌也在竞相部署同样的技术。辛顿说，科技巨头陷入了一场可能无法阻止的竞争。
他目前最担心的是，互联网将充斥着虚假照片、视频和文字，普通人将“无法再知道什么是真的”。他还担心AI技术最终会php颠覆就业市场。如今，像ChatGPT这样的聊天机器人往往是对人类工作者的补充，但它们也可能取代律师助理、个人助理、翻译和其他处理机械化任务的人。“它省去了繁重的工作，但它带走的可能不止这些。”辛顿称。
未来，他担心未来版本的AI技术会对人类构成威胁，因为它们经常从分析的大量数据中学习意想不到的行为。他说，这成了一个问题，因为个人和公司不仅允许AI系统生成自己的计算机代码，还允许它们自己运行这些代码。他担心有一天真正的自主化武器——那些杀人机器人——会成为现实。
“一些人相信，这种东西实际上会变得比人更聪明，”他表示，“但大多数人认为这还很遥远。 我也曾认为这还很遥远。我认为这需要30到50年甚至更长的时间。显然，我现在不再这么想了。”
辛顿说，当人们过去问他如何能研究有潜在危险的技术时，他会转述美国“原子弹之父”罗伯特奥本海默(Robert Oppenheimer)的话：“当你看到某种从技术上感觉不错的东西时，你就会去做。”凤凰网科技《AI哨所》对此将持续关注。
标签：
相关文章
世界百事通！AI哨所｜著名“AI教父”从谷歌离职：我为发展AI而后悔
凤凰网科技讯《AI哨所》北京时间5月2日消息，有“AI教父”之称的杰弗里辛顿(GeoffreyHinton)周一宣布，他已
美财长耶伦：美国政府可能最快6月1日触及债务上限并发生违约 世界热闻
英国《金融时报》5月1日消息，美国财政部长珍妮特·耶伦当地时间周一致信国会领导人并警告称，美国联邦政府
低血糖吃什么好可以喝牛奶吗_低血糖吃什么好 世界今亮点
1、以预防为目的，预防低血糖的饮食原则是定时定量进食。2、如果饭量减少，药物的治疗剂量也要相应减少。3
西部球探：虽然没人能真正防住库里 但范德飙会发挥关键作用 全球独家
西部球探：虽然没人能真正防住库里但范德飙会发挥关键作用,湖人,勇士,范德飙,西部球探,美国篮球,斯蒂芬·库里
职业形象等于哪些方面之和_什么样的形象是职业形象
1、1，穿着得体大方。2、2，言行举止文理有礼。3、3，做事自信积极。4、职业形象的重要性。5、一、得体的塑
环球热点！国产6万级SUV天花板！2023款瑞虎5x上市 限时优惠1万
中国品牌车企，奇瑞一直以严谨的技术宅标签、出色的综合产品力，成为购车者的口碑之选。4月28日，奇瑞汽车
讯息：jquery easyui 流行吗_jquery easyui
1、对话框（dialog）是一个特殊类型的窗口，它在顶部有一个工具栏，在底部有一个按钮栏。2、默认情况下，对
勇士助教：人们总误认为库里赛前热身在炫技 G6赛后科尔只睡了2h
勇士助教：人们总误认为库里赛前热身在炫技G6赛后科尔只睡了2h,弗雷泽,勇士队,勇士助教,美国篮球,湖人主场,
为什么路由器不能用 路由器不能用解决方法【图文】|世界播报
在我们的日常生活中，数码产品的普及率是相当的高了。各式的数码产品在我们的生活中都充当着重要的角色，这
自驾游西藏第34天 路过玛旁雍措 冈仁波齐 晚上十点抵达普兰县！
自驾游西藏第34天路过玛旁雍措冈仁波齐晚上十点抵达普兰县！,西藏,萨嘎,普兰县,自驾游,冈仁波齐,玛旁雍措
今头条！扶不起的阿斗？女网郑钦文关键时刻又掉链子，网友：拿大满贯没戏
粉丝们对于郑钦文的期望值非常高，因为郑钦文身体条件非常不错，所以大家有理由相信郑钦文有机会成为中国女
速读：硬刚丰田汉兰达，本田Pilot即将国产
本田Pilot(图片)是一款专供北美市场的SUV，竞争对手包括汉兰达、探险者和大切诺基等全能型SUV。除了提供多
漫长的季节结局：彪子被绿多年，为何默默忍受？黄丽茹吃准了他
黄丽茹当面找到厂长，让他认下腹中的孩子，谁知厂长一句——“我早跟你说清楚，咱们没有关系了！”王响说：
天天看热讯：他是中国男足的天才国脚，家境贫寒超身价1亿，却在30岁赌球被抓
金敬道1992年11月18日出生于吉林省延边朝鲜族自治州延吉市，司职中场，在年少的时候他就展现出相当出色的足
2-0！欺负副班长，拜仁终于结束4场不胜，球迷：直接给南大王颁奖
在世界足坛的历史上，有过太多换帅如换刀的例子，但是也有换帅之后，球队表现出现断崖式下滑的情况，本赛季
秋丛绕舍似陶家遍绕篱边日渐斜描写的是什么事物_秋丛绕舍似陶家遍绕篱边日渐斜的意思
1、秋丛绕舍似陶家：开得正旺的菊花一簇簇、一丛丛遍布屋舍四周，就像陶渊明的家。2、遍绕篱边日渐斜：沿着
利兹联单月丢球21粒创英超纪录，原纪录保持着也是利兹联_全球今亮点
直播吧4月30日讯英超第34轮比赛，利兹联在客场挑战伯恩茅斯。本场比赛，利兹联早早丢了两球，这让他们处在
国信证券：永新光学(603297.SH)2022年营收同比增长4.3% 显微镜高端化持续推进
智通财经APP获悉，国信证券发布研究报告称，永新光学(603297 SH)光学显微镜业务高端替代策略
