新智元报道
【新智元导语】让人毛骨悚然！一位拥有三百万粉丝的澳洲网红，竟借助人工智能技术凭空打造出一座孤儿院。假的奖杯、伪装的难民、伪造的慈善作为，这场堪称教科书的AI慈善骗局，正在疯狂利用大众的同情心。
一个Instagram账号，合计有三百万粉丝。
镜头中，一名披着头巾的金发女子笑意盎然，身边簇拥着一群非洲孩子，每个孩子手里都提着一根棒棒糖。
她对着镜头兴奋喊道，「感谢真主，孤儿院正式开张了」！
她声称建造过清真寺，向加沙难民送过面包，在乌干达为孤儿建造新家——背后的横幅上，「Lily Jay基金会」的标志十分醒目。
数百万穆斯林视她为楷模，纷纷解囊支持她声称的慈善活动。
然而真相是……
那位公布孤儿院开张的女子，并非真正的Lily Jay。那些举着棒棒糖的孩子，全是虚构的。她身后基金会的横幅，也是伪造。
每一帧画面，都是人工智能生成的。
最近，ABC旗下的核查栏目ABC NEWS Verify，揭开了这位「慈善化身」的真实面目，曝光了她背后那条利用AI技术制作的造假链条。
「慈善化身」，吸引了三百万粉丝
Lily Jay，一位来自澳大利亚的网络名人。
她在社交平台上，详细展示了自己皈依伊斯兰教的过程。
金发常被包裹在头巾里，搭配着一段段充满激情的宗教讲述视频，吸引了全球近三百万穆斯林粉丝。
紧接着，她创立了「Lily Jay基金会」，同样获得热烈响应。
基金会声称，自去年九月起，一直在尼泊尔、加沙、乌干达、苏丹四地施行善举：修建清真寺、分发食物、创办教育项目。
每段视频末尾，她都在向社会募捐。
一个虔诚信仰、热心慈善、亲临现场的完美形象，由此树立。
「行善现场」，疑点重重
然而真相终将水落石出。
那条乌干达孤儿院的视频中，欢呼的女子、举棒棒糖的孩子、身后的横幅，全都是人工智能虚构的。
更显眼的是，一名「基金会成员」的T恤背后，突然出现了一个字母L。这正是AI生成图像常见的拼写错误。
沿着线索追查，疑点逐渐累积。
在乌干达，未获许可擅自开办孤儿院属于违法行为。
当地注册机构最初明确告知ABC：无论使用基金会名义，还是官网标注的孤儿院名称「Ada Nur」，均无此注册记录。
ABC发出问询几天后，突然出现一个名为「Lilly基金会有限公司」的登记，但其状态却是——「不合规」。
再看那个光鲜的奖杯。
今年五月，一篇新闻稿宣布Lily Jay获得「2026年Austral-Global人道主义卓越奖」，配发了两张她领奖的照片。
分析显示，两张图片都带有ChatGPT的SynthID隐形标记——完全是AI制作的。
而发布这篇新闻稿的公关公司Real Media Group，一方面称她为「客户」，另一方面又在团队介绍中把她列为「联合创始人」。
至于那家号称设在加沙、专门分发人道物资的「面包店」，ABC既无法定位，也找不到任何证据。
加沙当地的人道机构，根本无人知晓此店。
「一场精心策划的骗局」
若以为这仅仅是几段摆拍，那就太天真了。
在基金会官网一个极不显眼的位置，藏着一句坦白：它根本不是慈善机构。
而真正的Lily Jay——本名Lily Jay Hinson，三十一岁，来自澳洲。
早先从事音乐和舞蹈，后来才转型为伊斯兰红人。她的社交账号展示着商务舱、豪车和名贵首饰，过着环球旅行的富足生活。
更可疑的是，她的个人账号注册地在塞浦路斯，基金会账号则挂靠在科索沃。
查阅公司档案显示，她并非基金会的董事。
三名董事另有其人，其中一位与那家公关公司Real Media Group存在关联。ABC致电询问，对方承认担任董事后立即挂断电话，公司网站不久后也下线。
最引人深思的是ABC问询后的变化：澳大利亚访客被重定向至本地页面，捐款按钮和那条「本机构非慈善」的免责声明一并消失。
但从海外访问，捐款通道依然畅通。孤儿院视频、假奖项页面，则被悄然删除。
世界宣明会澳大利亚前CEO Tim Costello尖锐指出：孤儿院里孩子的照片，最能触动捐款者的心弦。
未获登记的慈善身份为何危险？因为按照法规，正规慈善组织必须公开所有收支，以让公众安心捐助。
这套规则，恰恰是骗子试图规避的。
这才是最令人不安之处。如今，AI仅被用于虚构一座孤儿院、骗取部分善款。
但当deepfake技术蔓延至慈善、信任这类敏感领域——真视频、假插入、真背景被组合在同一段内容里，连平台都难以分辨真伪。
「你的善意，已被AI明码标价」
Lily Jay基金会最危险的地方，在于有数百万人如此信任它是真实的。
人工智能并未欺骗任何人。
人工智能只是构建出一个恰好迎合人们「渴望见证善良」的幻象——一位虔诚的信徒、一群等待帮助的孩子、一场跨国界的救援。
所有这一切「显得如此美好」，于是理性判断被暂时搁置。
Costello语气严厉：人们自愿捐款，是在表达爱。因此，永远都不该辜负这份善意，永远都不应。
下一个「Lily Jay」或许正在酝酿。
她或许不叫这个名字，或许不裹头巾，或许不谈论信仰。
但她必将精准地出现在你最愿意相信善良的地方，用你最想听到的故事，换取你最珍视的东西——你的信任。
在这个人工智能可以批量制造「真实」的年龄，唯一的警戒线，是多问一句：这究竟是不是真的？
参考资料：
https://www.abc.net.au/news/2026-07-05/lily-jay-foundation-posts-ai-generated-misleading-videos/106866422
编辑：桃子