ChatGPT是信任的终结吗?大学论文还能存活吗?

ChatGPT是信任的终结吗?有些人就是这样建议在OpenAI的聊天机器人ChatGPT发布之后，它惊人地擅长模仿几乎任何形式的人类写作，从计算机代码和诗歌到博客文章和论辩文章。聊天机器人吐出的大部分内容实际上是准确的。但大部分都不是。问题是用户没有简单的方法来确保ChatGPT的响应是准确的。ChatGPT以同样的自信和风格表达事实和虚构。

不要介意书面文字从一开始就存在信任问题。(毕竟古代的抄写员往往是宣传家和捏造者。)ChatGPT可以在不到一秒钟的时间内为几乎任何问题提供流畅而自信的答案，这似乎确实有些不同——现在由于OpenAI不收费，它对用户来说是零成本的。在此之前，制造一个令人信服的骗局需要时间和认真的努力。但是像ChatGPT这样的工具意味着制造错误信息的边际成本基本上已经降到了零。这意味着我们很可能会看到它的爆炸．

有人说，我们已经看到了这种错误信息爆发的第一个受害者:Stack Overflow，一个为人们的计算机编码问题提供社区来源答案的网站，必须禁止用户提交由ChatGPT创建的答案在被聊天机器人的回复淹没之后。Stack Overflow表示，问题在于这些答案看起来很有说服力，但实际上是错误的，而且他们的社区版主花了太长时间来审查所有答案并发现缺陷。

如果开源人工智能模型的新倡导者之一决定构建一个ChatGPT克隆，并将其作为开源项目完全免费提供，情况将会变得更糟。(目前OpenAI仍然控制着ChatGPT背后的模型，用户只能通过OpenAI随时可以关闭或收取费用的接口查询模型。它的使用条款还禁止人们使用机器人来开展虚假信息宣传活动。)前对冲基金经理埃马德·穆斯塔克(Ehmad Mostaque)经营着Stability AI公司，该公司帮助培训了流行的文本到图像系统Sable Diffusion，并将其开源。问他的推特粉丝Stability是否应该创建ChatGPT的开源版本。

作为ChatGPT发布的一部分，OpenAI还发布了一个人工智能系统，可以检测文本是否使用ChatGPT创建。开源人工智能初创公司hug Face在其网站上提供了一个ChatGPT检测器的接口，在实验中，科罗拉多大学博尔德分校的信息科学教授凯西·菲斯勒(Casey Fiesler)在推特上说当她向检测器输入五篇学生写的文章和五篇用ChatGPT写的文章时，它以99.9%的信心标记出了所有五篇用ChatGPT写的文章。但一些研究人员表示，他0b足球们怀疑该检测器能否在所有未来版本的人工智能系统上工作，或者能否在其他人训练的任何类似但不完全相同的大型语言模型上工作。早期对大型语言模型的0b足球研究发现，人工智能系统在区分人工智能创造的文本和人类书写的文本方面表现不佳。

许多人认为ChatGPT和类似系统将产生直接而深远影响的一个领域是教育。许多人表示，这样的系统意味着在学生评估中不再使用任何形式的自写论文或报告。这可能意味着大学申请论文和学期论文的终结。大西洋有非常好的作品上周我们研究了这个问题。我问我的一个大学教授朋友有什么想法，他毫不含糊地回答说学期论文已经完成了。他说，他认为教授们将只能依靠监考考试，要求学生手写论文(或者在他们能证明没有联网的电脑上打字)。

微软首席技术官凯文·斯科特(Kevin Scott)表示欧宝竞技ob财富的微软的头脑风暴人工智能大会上周，他在旧金山发表的一篇论文中指出，那些对ChatGPT感到绝望的老师们犯了一个“教学错误”，他们把这篇文章与老师实际上试图确保学生已经学到了的重要信息混为一谈。他说，这篇文章只是“一种人为的东西”。

他似乎在说ChatGPT不会破坏人文学科的教学，就像计算器不会破坏数学教学一样欧宝球网站。“在某种意义上，除了你有了这个工具之外，这里没有什么真正的改变，学生自己必须成为模型的老师，”他说，这意味着学生仍然必须仔细检查大型语言模型生成的答案，并确保它没有编造信息。目前，学生仍然需要提供信息来源的准确引用。“你的工作是:成为这个东西的编辑，成为老师，说服它为你提供你真正需要的输出。这是重要的，也是我们的特别之处。这东西只是个工具。”

斯科特并不孤单他们认为ChatGPT对教育很有帮助。但我认为斯科特和其他人忽略了一些东西。教师使用论文不仅仅是评估学生所学到的事实。欧宝球网站在小学可能是这样。但在高中，当然在大学，老师使用论文不仅仅是为了看学生知道什么事实，而是看他们是否能利用这些事实提出合理的论点。这些事实只是佐证。它们是取得高分的必要条件，但不是充分条件。老师也用文章来评估学生在写作中表达想法的能力——他或她的散文有多优美，学生能否想出原创和恰当的隐喻等等。

也许最重要的是，很难将写作行为与思考行为分开——通过写作，一个人被迫组织他们的思想，提炼他们的想法，收集证据，并考虑反对意见。很多学习都是在写作过程中进行的。当ChatGPT或它的后继者可以简单地写出一页又一页写得很好、结构很好的文章，而学生被简化为仅仅是一个事实核查者和注释者时，这些都消失了。我们写作不仅是为了传达信息，而且是为了提炼和提炼信息。

继续往下读，看看过去一周更多与人工智欧宝球网站能相关的故事。欧宝竞技ob财富的包括《Eye on a.i.》在内的微软时事通讯将因假期而暂停发布。下一期《关注人工智能》将于1月10日出现在你的收件箱里。同时，祝大家节日快乐，新年快乐!2023年见。

杰里米·卡恩
jeremy.kahn@欧宝竞技obwww.m-crow.com
@jeremyakahn

人工智能出现在新闻中

插画家抱怨ChatGPT和Midjourney等人工智能工具让任何人都可以轻松创作儿童书籍。时间杂志记录阿玛尔·雷什创作了一本儿童读物，无需自己动手写作或配图，并开始在亚马逊上销售这本自费出版的书。但艺术家们抗议说，这种技术正在从他们自己的作品中获利，因为像GPT和Midjourney这样的人工智能系统是在现有的人类创造的图像和文本的庞大数据库上进行训练的。“对我来说，人工智能的主要问题是，它是根据艺术家的作品训练出来的，”童书插画师阿德里安娜·蔡(Adriane Tsai)说时间．“这是我们的创作，我们创造的独特风格，我们不同意被使用。”

DeepMind的代码编写人工智能AlphaCode被称为“惊人的”进步。这是根据科学杂志该公司发布了DeepMind关于一种可以成功与人类程序员竞争的编码机器人的研究的同行评议版本。0b足球(AlphaCode最初是在2月份宣布的。)AlphaCode可以解决34%的指定编码问题，这一性能远远超过了OpenAI在2021年推出的竞争对手Codex系统。在至少有5000名参赛者参加的在线编程比赛中，该系统的表现超过了45.7%的人类程序员。

Alphabet的员工担心，该公司在先进人工智能技术的商业化竞赛中落后了。这是根据CNBC的报道在最近的一次全体员工大会上，员工质疑公司决定不更广泛地发布自己的强大聊天机器人LaMBDA，因为OpenAI的ChatGPT越来越受欢迎。欧宝球网站目前，LaMBDA只对谷歌内部的研究人员和经过精心挑选的其他人开放，通过谷歌的人工0b足球智能测试厨房的公众访问非常有限。据CNBC报道，Alphabet首席执行官桑达尔·皮采和长期担任谷歌人工智能部门负责人的杰夫·迪恩在回答这个问题时表示，该公司拥有与OpenAI的ChatGPT类似的能力，但如果出现问题，成本会更大，因为人们必须相信他们从谷歌得到的答案。