创造力还是幻想病?面对AI幻觉策划人别慌 世界今日讯
近期,小爱同学通过检索搜索引擎信息生成的答案,抓取了猜想的答案,引
2023-07-03近期,小爱同学通过检索搜索引擎信息生成的答案,抓取了猜想的答案,引发了众多关注。人工智能有意无意地胡编乱造,被业界称之为的AI幻觉。作为营销策划人,该如何应对这种状况?
【资料图】
在这个爆料常常被翻转的年代,辟谣已经将怪不怪,但是小米价格事件的翻转还是引发众多关注。近日,一张关于小米汽车车型价格的截图在网上流传,流出图显示,小米车型售价14.99万元起,最高续航达到800公里。不过没多久,小米公关负责人就在微博发文辟谣。
原来这是小爱同学通过检索搜索引擎信息生成的答案,实际上,此信息是2022年5月自媒体报道的猜想信息,有人提问小爱时,小爱同学抓取了这个猜想的信息而已。
小爱同学作为小米旗下的人工智能助手,其给的答案引发关注也不意外。确实,小爱同学辨别不了信息的真假,是无意为之。不过,这个事件让小僧想到了人工智能有意为之的胡编乱造现象,这就是被业界称之为的AI幻觉。
AI也会幻觉?人工智能时代引发生产力解放的狂欢,但在这背后,过度依赖人工智能的危机似乎已经显现!
一、什么是AI幻觉?你有没有遇到过AI工具一本正经胡说八道的情况?
在人工智能领域,AI“幻觉”(hallucinations)通常被定义为“生成的内容与提供的源内容无意义或不可信”。也就是当模型出现“幻觉”时,其输出的内容、数据可能存在一定的欺骗性,而其所使用的训练数据并不能证明输出结果的合理性。
简单来说就是,AI有时候会生成一些子虚乌有的人或者事,并且保持一贯的自信,这些虚假的信息具有很强的误导性和欺骗性。
就连 OpenAI 的首席执行官也在 Twitter 上公开表示,“ChatGPT 确实知道很多东西,但危险的是,它在相当大的一部分时间里是自信而错误的。”
不过,幻觉这个词总给人一种AI具有生命力和思考能力的暗示,正因为如此,随着这一现象被越来越多的人关注,这个标签的争议也越来越大。小僧以为,AI“幻觉”事实上是一种信息的虚构,这种信息的虚构是基于AI模型造成的,而不是AI的主观思考能力或创造能力。
不管称呼如何,人工智能这种自我欺骗胡编乱造的现象已经不是个例,在AIGC浪潮之下,AI工具张口就来似乎成为了新时代的新常态。
二、AI张口就来的病AI这种出现错误或者偏差,导致生成不准确、错误甚至荒诞结果的现象,可能发生在多个层面上,如文本的胡编乱造、事实的错误捏造、无用代码的生成,甚至给你一个编造的参考文献等等。
《华盛顿邮报》就报道了一位法律教授发现 ChatGPT 将他列入了一份对某人进行过性骚扰的法律学者名单。还有报道称ChatGPT 捏造一位澳大利亚市长被判定犯有贿赂罪并被判处监禁!是不是很可怕?随着AIGC的兴起,如果这种AI幻觉不得到有效解决,我们可能被各种捏造的信息裹挟。
三、AI为什么会产生这种幻觉?正如小僧上文所述,理解大型语言模型(LLMs)的本质可以帮我们找到答案。大型语言模型的设计,是基于语言的“统计概率”,这意味着AI完全没有“现实世界的经验”,无法有基于事实真假的判断。所以AI不知道什么是正确的,什么是不正确的,只能保持与提示词在统计学上的一致性。
OpenAI的研究人员在报告中写道:“即使是最先进的人工智能模型也很容易产生谎言,它们在不确定的时刻往往表现出捏造事实的倾向。而这些幻觉在需要多步骤推理的领域尤其严重,因为一个逻辑错误就足以破坏一个更大的解决方案。”
不过,从另一个角度来看,这种幻觉恰恰又是AI创造力的表现。因为正是这种创造性回应的能力使AI成为产生新想法或解开思考瓶颈的强大工具,你将其用于脑暴思考、激发灵感时会很有用,但当用作事实参考时就需要谨慎了。
作为营销人员,在使用这类工具时,还是要保持谨慎乐观的态度。因为我们从事的大量工作是创造性或者说是创意性的,AI幻觉可以带来更多灵感和启发,但是还有很多工作是基于客观事实的,这就需要进行交叉核实或验证,而不是完全听之任之。
由此可见,对于AI工具,在效率层面确实是解放了生产力,但在内容真实性层面,我们在使用时,还是需要有基本的识别能力和判断能力。说到底,工具永远是为人所用,而不是完全替代人,是不是感觉到自己的职业稳了?
以上希望能给你启发。
专栏作家
小僧鲲鲲,微信公众号:营销禅修院,人人都是产品经理专栏作家。让营销没有难渡的劫,分享营销知识、策划干货和文案技巧。
本文原创发布于人人都是产品经理。未经许可,禁止转载。
题图来自unsplash,基于 CC0 协议。
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
标签:
近期,小爱同学通过检索搜索引擎信息生成的答案,抓取了猜想的答案,引
2023-07-03你需要的东西模版一次性剃须刀Dettol 或类似的抗菌皂外用酒精凡士
2023-07-03据中国民航局消息,日前,民航局发布《关于落实数字中国建设总体部署加
2023-07-03法国警察射杀少年事件引发的骚乱蔓延至瑞士洛桑,当地时间7月2日晚,瑞
2023-07-037月1日至7月2日,云南昭通市镇雄县塘房镇、南台街道突发单点暴雨,其中
2023-07-03当地时间7月2日,联合国粮食及农业组织(FAO)宣布,当天在罗马举行的
2023-07-03日前,行车视线从相关渠道获悉,宝马XM(图片|配置|询价)50e与宝马XMLab
2023-07-03中国报告大厅2023年7月3日乙二胺四乙醇价格最新走势监测显示:湖北弘景
2023-07-03在股票市场上,根据持股时间的长短,可以把投资者分为短线投资者和长线
2023-07-03中国市场对特斯拉有多重要?
2023-07-037月1日,四川协鑫锂电年产36万吨磷酸铁锂储能材料项目在四川省眉州市仁
2023-07-037月2日夜间到7月3日白天,宁夏自南向北出现降雨。其中,吴忠市盐池县、
2023-07-03以下是科陆电子在北京时间7月3日10:16分盘口异动快照:7月3日,科陆电
2023-07-03央广网西安7月3日消息(记者侯凯奇)7月3日,记者就“壶口瀑布陕西侧
2023-07-03市疾控中心日前发布提醒:本市已进入蚊虫活跃期,部分区域蚊虫叮咬指数
2023-07-03中国基金报记者曹雯璟20年间,QFII从无到有、从小到大,目前QFII最新重
2023-07-03日前台湾《中国时报》曾独家报道,关于进口蛋买气不佳,甚至有部分鸡蛋
2023-07-03提起街拍,还是喜欢简约休闲风格的欧美街拍,她们的穿搭会有一种气定神
2023-07-032016年11月西王食品斥资7 3亿美元收购加拿大运动保健品公司Kerr,跨入
2023-07-03小伙伴们,你们好,今天小夏来聊聊一篇关于鸡蓉奶油汤,关于鸡蓉奶油汤
2023-07-03私人借款保证合同(精选3篇)私人借款保证合同篇1保:住所:开户金融机
2023-07-03导读1、是需要考保险经纪人从业资格证书的,由当地的保监局负责考试和
2023-07-031、1 时移特性的推导过程:2 频移特性的推导过程:傅立叶变换能将满足
2023-07-02智通财经APP讯,中国奥园(03883)发布公告,公司于2023年6月30日与若干
2023-07-027月2日下午,上海外企青年人才协会第二届第一次会员大会在中国浦东干部
2023-07-02据@上海防汛,全市防汛防台IV级(四级)响应同步启动
2023-07-02一条河,承载着古往今来的物阜民丰。北京并非水乡,几条河却撑起了多元
2023-07-02苏州固锝7月2日公告,为满足公司的马来西亚全资孙公司AICSEMICONDUCTOR
2023-07-02今夏四川电网重点工程建成投运面对用电负荷的持续增长,多地多部门密集
2023-07-021、生蚝是圣帝魅力坚的主要成分之一,产自玛利亚纳深海沟中,他们的生
2023-07-02参考消息网7月2日报道据韩联社6月30日报道,据韩国国防部30日消息,美
2023-07-02日前,著名足球装备网站FootyHeadlines曝出了切尔西新赛季的客场球衣,
2023-07-021、朗瑞特LR-1688HY-2是一款朗瑞特旗下的发射器。2、商品毛重为240 00g
2023-07-02来为大家解答以下的问题,平君被谁害死,许平君怎么死的这个很多人还不
2023-07-02抄写作文网小编为大家提供古诗吟诵形式有哪些特点诗歌的特点又哪些呀?
2023-07-021、1慈爱的奥特之母-奥特之母像太阳一样主要人物:东光太郎奥特五兄弟
2023-07-02据《阿斯报》报道,尼科-冈萨雷斯希望留在巴塞罗那,在哈维的阵容中竞
2023-07-02导读1、一、注意热性能指标“平均日效率”越高越好,“平均热损系数”
2023-07-02大家好,今日关于【中国女篮胜澳大利亚进亚洲杯决赛】迅速上了的热搜榜
2023-07-02南美国家乌拉圭当下正遭受70多年来最严重的干旱,由于水源干涸,包括乌
2023-07-02必备材料:鸡翅500克、爱尔兰烤翅调料50克、花椒粉2克、蜂蜜、刷子1、
2023-07-02hello大家好,我是城乡经济网小晟来为大家解答以上问题,死间计划是什
2023-07-011、爱拼才会赢拼搏,应是每一个真正的人所应具有的精神。2、面对迎面而
2023-07-011、如果是用液化气就可能是液化气瓶上的减压阀失效,造成燃气进气压力
2023-07-01央视网消息:随着气温走高,空调制冷负荷明显增加,电网用电负荷持续加
2023-07-011、《校本研究九大要点》是2009年4月福建教育出版社出版的图书,作者是
2023-07-01其中C系列交付11600+台,占比超87%;C11车系交付8900+台,位居B级新势
2023-07-01新华社重庆7月1日电(记者周闻韬)记者1日从重庆市万州区分水镇政府获
2023-07-01生逢盛世,我们将以怎样的风采奏响青春之歌?周深倾情演唱《闪亮的坐标
2023-07-01据路透社报道,白俄罗斯总统卢卡申科当地时间6月30日表示,他确信部署
2023-07-01家有电动自行车的朋友们注意啦关于电动自行车头盔新版标准今起强制执行
2023-07-01北京时间9月26日,第十四届全运会游泳项目男子50米自由泳决赛在西安奥
2023-07-01年级上册化学书电子版(人教版),9年级上册化学这个问题很多朋友还不知
2023-07-01河北省本科提前批、本科批集中填报志愿工作仍在进行。从河北省教育考试
2023-07-01Pads软件提供了非常强大的中文功能,能够设置多种字体样式来进行选择,
2023-07-01当地时间6月30日,据当地媒体报道,阿根廷已经使用国际货币基金组织特
2023-07-01李阳,阳的简介很多人还不知道,现在让我们一起来看看吧!1、李阳。2、
2023-07-016月30日,富国中证国有企业改革指数(LOF)A最新单位净值为0 984元,累计
2023-07-01【两年期美债收益率二季度累涨超70个基点上半年累涨超40个基点】财联社
2023-07-011、和信通成都的商户有很多。2、您可以拨打和信通24小时400客服热线。3
2023-07-01截至2023年6月30日收盘,宏德股份(301163)报收于31 55元,较上周的29
2023-07-016月30日,截至收盘,农银瑞云增益6个月持有混合C(017625)较前一交易
2023-06-30谷歌在其3D动物收藏中增加了50种新动物。有一些新的虚拟动物,包括猫、
2023-06-30导读:住房公积金应该怎么交?下面为大家带来介绍。老单位应当到住房公
2023-06-30完整版华为公司财务管理规章制度,共219页Word版,参考价值极高财务管
2023-06-30日前,大连市纪委监委通报3起在耕地保护工作中不担当、不作为、乱作为
2023-06-30“感谢街道和社区帮忙,问题终于解决了,谢谢你们!”6月28日上午,新华
2023-06-30参考消息网6月30日报道据韩联社6月29报道,韩国首都圈29日将迎来强降雨
2023-06-30是985院校。西北工业大学坐落于古都西安,是我国唯一一所以同时发展航
2023-06-30记者赵波6月30日,青岛综合立体交通产业示范园(高新区)开工并奠基。
2023-06-30hello大家好,我是城乡经济网小晟来为大家解答以上问题,金巧巧全家近
2023-06-30失业补助金最长可以领取几个月?失业补助金2023年还可以申请吗?下面随社
2023-06-30截止到6月28日Mysteel调研全国87家独立电弧炉钢厂,平均开工率67 60%,
2023-06-30北京时间6月30日凌晨,乌迪内斯宣布萨拉加自由身加盟球队。据悉签约至2
2023-06-30江华湾水源抽水蓄能电站可行性研究报告审查通过北极星电力网获悉,6月2
2023-06-30“瓦格纳兵变”余波未了!海外又传出一则令人意外的消息。6月29日,观
2023-06-301、神尔天才专注于音频技术的研究开发与产品应用。2、已发展成为以专业
2023-06-30个旧市气象台2023年6月30日03时05分发布雷电黄色预警信号:预计未来6小
2023-06-30当前大家对于陈鹏程画家都是颇为感兴趣的,大家都想要了解一下陈鹏程画
2023-06-301、卿言墨绯卿言墨婧卿言墨筝卿言墨绮卿言墨兮卿言墨初卿言墨惜卿言墨
2023-06-30一、广西壮族自治区桂林市天气预报1、灵川县气象台21日20时25分继续发
2023-06-301、牙结石又称牙石,是附着在牙齿表面的一些钙化物。牙结石的成因是刷
2023-06-30hello大家好,我是价值网小科来为大家解答以上问题,乌拉尔山乌拉尔河
2023-06-30充满了青春的味道,满足了我对青春的所有向往,琢磨不透的对异性感情,
2023-06-30来源:智通财经APP兰亭集势(LITB US)已批准一项股票回购计划,将在2023
2023-06-29红网时刻新闻通讯员 何星辉 记者 王义正 新田县报道“对街道辖
2023-06-29安徽宿州一名六旬老人在家劳动时,被巨型风扇绞断一根无名指,家人紧急
2023-06-291、access接口是连接电脑的接口还有一种是trunk这个是连接可网管交换机
2023-06-29客厅最适合摆这“3种绿植”,能养人,还旺运,摆10盆也不嫌多!在客厅
2023-06-291、第一种方法:脸上的黑痣与雀斑治疗方法不同,一般大小的黑痣只须用高
2023-06-29临近七月,又到了快放暑假的时候。汛期、暑假一直是溺水事件的高发、易
2023-06-29中新网香格里拉6月29日电(刘越)很多年以后,俄罗斯姑娘伊丽娜躺在故
2023-06-29“想了解下扬州的文化和历史。”6月28日,“Z世代”画像中国网络互动活
2023-06-29该研究由中国科学院成都生物研究所李家堂课题组报告。四肢的发育对于四
2023-06-29智通财经APP讯,奥锐特(605116 SH)发布公告,近日,公司全资子公司扬州
2023-06-29北京市气象台6月27日20时发布:今夜多云转阴,西部南部雷阵雨,南转北
2023-06-296月28日,由西泠印社集团主办,西泠印社美术馆承办的“百廿风华西泠清
2023-06-296月27日,东莞松山湖迎来了第14届“品鉴岭”中国著名作家采风团的到来
2023-06-29中国报告大厅2023年6月29日硫酸氢钠价格最新走势监测显示:广州市辉豪
2023-06-291、在选择学校的时候可以参考一下,口碑、教学质量、师资力量、有责任
2023-06-29Copyright © 2015-2022 起点水产网版权所有 备案号:皖ICP备2022009963号-12 联系邮箱: 39 60 29 14 2@qq.com