号叫作准确率达98%的AI照片检测器具开启内测，这能处理AI照片混淆视听的问题吗
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">5月8日，美国科技<span style="color: black;">机构</span>OpenAI公告<span style="color: black;">叫作</span><span style="color: black;">机构</span>推出了一款<span style="color: black;">能够</span>检测<span style="color: black;">照片</span><span style="color: black;">是不是</span><span style="color: black;">是由于</span>自家AI生成的<span style="color: black;">照片</span>的AI<span style="color: black;">照片</span>检测<span style="color: black;">归类</span><span style="color: black;">工具</span>，该<span style="color: black;">工具</span><span style="color: black;">重点</span>用于甄别图像<span style="color: black;">是由于</span>OpenAI的“文生图”<span style="color: black;">工具</span>DALL·E3生成的概率，该<span style="color: black;">工具</span><span style="color: black;">日前</span><span style="color: black;">已然</span>开放了部分内测名额。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><img src="https://q2.itc.cn/q_70/images03/20240510/56ce229d10a648258ef6136818ca130a.png" style="width: 50%; margin-bottom: 20px;"></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;"><strong style="color: blue;"><span style="color: black;">源自</span>：OpenAI官网</strong></span></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">按照</span>官网介绍，该<span style="color: black;">工具</span>在区分非AI生成图像与DALL·E3生成的图像方面成功率很高，成功率能够接近98%，<span style="color: black;">同期</span><span style="color: black;">仅有</span>少于0.5%的非AI图像被错误地标记来自DALL·E3。<span style="color: black;">同期</span>这个<span style="color: black;">工具</span>能够应付一系列<span style="color: black;">平常</span>的修改，例如压缩、裁剪和修改图像饱和度。从实验<span style="color: black;">道理</span>上看，这一检测<span style="color: black;">工具</span>的<span style="color: black;">显现</span>确实<span style="color: black;">特别有</span>必要，当前的AI文生图的逼真程度越来越高，真假难辨，<span style="color: black;">有些</span>离谱的AI生成图暂且不论，已<span style="color: black;">诱发</span>人们<span style="color: black;">广泛</span>担忧的是AI生成图<span style="color: black;">针对</span>人类知识库的污染问题，网络<span style="color: black;">显现</span>了<span style="color: black;">海量</span>看起来非常符合<span style="color: black;">规律</span>但<span style="color: black;">实质</span>上是AI生成的专业<span style="color: black;">行业</span>的<span style="color: black;">照片</span>，这些<span style="color: black;">照片</span>在社交平台上泛滥且被冠以错误的科普信息，<span style="color: black;">例如</span>AI生成的鸟类照片，并非是现实存在的鸟类<span style="color: black;">然则</span>被冠上错误的鸟类信息，这些<span style="color: black;">照片</span>、文字信息被<span style="color: black;">更加多</span>智能聚合系统<span style="color: black;">捉捕</span>，当<span style="color: black;">成为了</span>正确的、真实存在的鸟类信息加以传播，<span style="color: black;">引起</span><span style="color: black;">公众</span>误以为有这么一种鸟的存在，科普工作者的科普、辟谣发声在高速传播的信息面前几乎起不到太大的<span style="color: black;">功效</span>。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">但从<span style="color: black;">日前</span>的内测反馈来看，该检测<span style="color: black;">工具</span>的局限性<span style="color: black;">亦</span><span style="color: black;">非常</span><span style="color: black;">显著</span>，<span style="color: black;">日前</span>能够检测的基本仅限于DALL平台生成的AI<span style="color: black;">照片</span>，若<span style="color: black;">运用</span>了其他AI大模型生成的<span style="color: black;">照片</span>加以检测，检测成功率会大幅下降。<span style="color: black;">日前</span><span style="color: black;">全世界</span>人工智能市场中活跃的人工智能大模型数<span style="color: black;">不堪</span>数，平台<span style="color: black;">更加是</span>五花八门，该检测<span style="color: black;">工具</span><span style="color: black;">实质</span>应用范围恐怕极为有限。值得肯定的是，OpenAI对其检测技术的局限性保持透明态度，并<span style="color: black;">准许</span><span style="color: black;">外边</span>测试人员<span style="color: black;">拜访</span>该<span style="color: black;">工具</span>以<span style="color: black;">帮忙</span>改进。OpenAI<span style="color: black;">暗示</span>，今年早些时候就已<span style="color: black;">起始</span>在ChatGPT和OpenAI API中为由DALL-E 3创建和编辑的所有<span style="color: black;">照片</span>添加C2PA元数据。并且将会在Sora推出时，<span style="color: black;">亦</span>为模型整合C2PA元数据。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">此前，国内外推出过众多利用AI技术检测AI生成内容的<span style="color: black;">工具</span>，<span style="color: black;">然则</span><span style="color: black;">日前</span>来看并<span style="color: black;">无</span>非常<span style="color: black;">可靠</span>的<span style="color: black;">工具</span><span style="color: black;">显现</span>，<span style="color: black;">针对</span>AI生成内容的辨识<span style="color: black;">重点</span>还在依靠人的经验，此前openAI曾推出过一款识别AI文本的检测工具，其开放应用后<span style="color: black;">诱发</span>了众多连锁问题，有人将之应用在检测学生作业、论文<span style="color: black;">是不是</span>为AI生成方面，但因其准确度并不<span style="color: black;">非常</span>牢靠，<span style="color: black;">出现</span>不少误判的乌龙，<span style="color: black;">最后</span>该<span style="color: black;">工具</span>被悄然下线。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">实质</span>上光靠人的经验来识别AI内容<span style="color: black;">亦</span>很难说<span style="color: black;">可靠</span>，AI以假乱真的程度实在是太高，<span style="color: black;">研发</span>检测AI的AI<span style="color: black;">工具</span>恐怕治标不治本，要<span style="color: black;">处理</span>这个问题还要从源头<span style="color: black;">起始</span>，<span style="color: black;">咱们</span>更<span style="color: black;">必须</span>的是AI生成平台自觉地给所有AI生成的内容打上不可移除的AI溯源水印，不管是图像、音视频还是文本，一张AI水印将更有利于标记和识别非真实的内容。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">近年来，随着生成式人工智能快速发展，AI内容愈发真实，AI换脸、AI变声等新型诈骗<span style="color: black;">亦</span>层出不穷，<span style="color: black;">保证</span>数据安全和内容真实性<span style="color: black;">亦</span><span style="color: black;">作为</span><span style="color: black;">全世界</span>共识。中国相继出台《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策；4月23日，中央网信办再次强调要加强信息<span style="color: black;">源自</span>标注展示，<span style="color: black;">运用</span>AI等技术生成信息的，<span style="color: black;">必要</span><span style="color: black;">知道</span>标注系技术生成。</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">扬子晚报/紫牛<span style="color: black;">资讯</span>记者 沈昭</p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;">校对 盛媛媛<a style="color: black;"><span style="color: black;">返回<span style="color: black;">外链论坛：http://www.fok120.com/</span>，查看<span style="color: black;">更加多</span></span></a></p>
<p style="font-size: 16px; color: black; line-height: 40px; text-align: left; margin-bottom: 15px;"><span style="color: black;">责任编辑：网友投稿</span></p>
你的见解独到，让我受益匪浅，非常感谢。 “BS”（鄙视的缩写） 一看到楼主的气势，我就觉得楼主同在社区里灌水。
页:
[1]