谷歌推出 SynthID 检测器,当场抓获作弊者
随着深度伪造、虚假信息和人工智能辅助作弊在网络和课堂上蔓延,谷歌 DeepMind 于周二发布了 SynthID 探测器。这款新工具可以扫描图像、音频、视频和文本,查找谷歌日益壮大的 AI 模型套件嵌入的隐形水印。
设计用于在一个地方跨多种格式工作,SynthID Detector旨在通过识别谷歌人工智能(包括音频人工智能)创建的内容来提高透明度笔记本LM、Lyria 和图像生成器图像,并突出显示最有可能被加水印的部分。
谷歌在演示中表示:“对于文本,SynthID 会查看接下来要生成的单词,并改变合适单词选择的概率,而不会影响整体文本质量和实用性。”
它补充道:“如果一段文字包含更多首选词汇,SynthID 就会检测到它被加了水印。”
SynthID 在文本生成过程中调整词汇选择的概率分数,并嵌入不可见的水印,该水印不会影响输出的含义或可读性。此水印随后可用于识别由 Google Gemini 应用或网络工具生成的内容。
Google 首次在2023年8月作为检测 AI 生成图像的工具。随着 SynthID Detector 的推出,谷歌扩展了此功能,使其涵盖音频、视频和文本。
目前,SynthID Detector 仅提供有限版本,并且有记者、教育工作者、设计师和研究人员可以试用该程序。
随着生成式人工智能工具的普及,教育工作者发现越来越难以确定学生的作品是否原创,即使是旨在反映个人经历的作业也是如此。
利用人工智能作弊
最近报告 经过 纽约杂志凸显了这一日益严重的问题。
圣克拉拉大学的一位技术伦理学教授布置了一篇个人反思论文,结果发现一名学生使用 ChatGPT 完成了它。
在小石城阿肯色大学,另一位教授发现学生依靠人工智能来撰写课程介绍论文和课程目标。
尽管越来越多的学生利用其人工智能模型在课堂上作弊,OpenAI关闭该公司表示,由于准确率较低,将于 2023 年推出其 AI 检测软件。
OpenAI 当时表示:“我们认识到识别人工智能编写的文本一直是教育工作者讨论的重要点,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”
人工智能作弊问题变得更加严重的是一些新工具,例如巧妙地Cluely 是一款旨在绕过 AI 检测软件的应用程序。Cluely 由哥伦比亚大学前学生 Roy Lee 开发,可在桌面层面规避 AI 检测。
李将该应用程序宣传为一种在考试和面试中作弊的方法,他筹集了 530 万美元来开发该应用程序。
李之前曾告诉记者:“我在亚马逊面试时上传了一段自己使用它的视频,之后它就火了。”解密“在使用它的过程中,我意识到用户体验真的很有趣——没有人探索过这种半透明屏幕覆盖的想法,它可以看到你的屏幕,听到你的音频,并充当你的电脑的第二个播放器。”
尽管 SynthID 等工具前景光明,但许多当前的 AI 检测方法仍然不可靠。
10 月份,领先的 AI 探测器解密发现四大领先的人工智能检测器中,只有 Grammarly、Quillbot、GPTZero 和 ZeroGPT 能够决定是人类还是人工智能分别撰写了美国《独立宣言》。
编辑塞巴斯蒂安·辛克莱
(责任编辑:财富观察)
-
在2016年底的时候,niconico的日活跃用户是331万人,付费会员则是252万人。...[详细]
-
我们总是在抱怨我们的教育体制如何如何与美国有差距,其实研究比较下来,两国最大的差距就在于教育中的习和用,中国的教育更重视知识的纸面考核,美国的教育更倾向于知识的实践应用。...[详细]
-
分析师预测:标普500指数暴跌50%背景下,比特币或飙升至60万美元
他们在2016年冬天启动了这个项目。...[详细]
-
pp2.0币最新消息 pp2.0 _ PP2在KuCoin上市!
事情败露后,证监会对欣泰电气送达《行政处罚决定书》和《市场禁入决定书》,对欣泰电气启动强制退市程序,对欣泰电气实际控制人、董事长温德乙等采取终身证券市场禁入措施。...[详细]
-
因为担心自己太过思念儿子而提前回国,张兰连随身带来的儿子的照片都是扣着放在床头柜上,实在受不了了,翻过来看一眼又快速地扣上。...[详细]
-
日本交易所bitFlyr开始实行Travl Rul _ 资金移动规则
在这种环境之下,就会显得友情链接显得格外重要,毕竟交换友情链接是互惠互利的一个过程。...[详细]
-
大腕互联响站H5全平台响应式自助建站系统等你来体验document.writeln('关注创业、电商、站长,扫描A5创业网微信二维码,定期抽大奖。...[详细]
-
兰生股份:2024年1-9月共主承办展会17场,租馆面积超800万平方米,持有其他权益工具投资约14.5亿元
虽然我们应该推崇复盘,但是大部分时候其实都是在事后诸葛亮,我们经常从当初错过的和当初抓住的机会中反思下一次应该如何操作,然而其实当初并没有做太多真正正确的预测,也没有付出什么行动,只是将曾经模棱两...[详细]
-
想象一下,当你和人沟通的时候,对方根本不会给你任何语言、表情和动作的反馈,这是何等的尴尬。...[详细]
-
太古地产(01972.HK)10月31日耗资951.76万港元回购60万股
2012年,国家颁发《关于规范网络游戏经营秩序查禁利用网络游戏赌博的通知》,其中为切实解决网络游戏涉嫌赌博问题,公安部、文化部、信息产业部、新闻出版总署决定,在全国范围内组织开展规范网络游戏经营秩序、...[详细]