TIDEZINE.

2022年那场「魔法文字编辑器」实验,四年后让13位作家被粘贴耻辱榜

Google在2022年找来13位科幻与奇幻作家测试名为Wordcraft的写作工具,当时无人在意;四年后这份研究被挖出,作家们得为当年的签名付出代价。

2022年那场「魔法文字编辑器」实验,四年后让13位作家被粘贴耻辱榜

2022年春天,一封来自Google的邀请信寄到十多位科幻、奇幻作家信箱里,其中包括得过雨果奖、星云奖的Ken Liu,以及以《Mr. Penumbra's 24-Hour Bookstore》闻名的Robin Sloan。信里说有个叫Wordcraft的「魔法文字编辑器」想请他们试用并给意见,签了保密协议之后,他们拿到的其实是一个界面像Word、旁边挂着聊天机器人的东西——背后跑的模型是LaMDA,也就是后来Google Gemini的前身。

这个代号「Wordcraft Writers Workshop」的内部研究,出自DeepMind底下专攻艺术与机器学习的Magenta团队,该团队过去以做Ableton Live的音乐插件闻名。研究给每位作家八周时间写一篇短篇小说,AI要用多少、怎么用全凭自己决定,至少有一位作家全程没用到任何AI生成的文字。成果连同一份白皮书,一起挂上了Magenta的官网,一放就是四年。

今年8月6日,作家Lily Lachance在Codex论坛上翻到这份研究,随即在Bluesky贴文轰炸:「13位专业作家跟Google的AI垃圾机器Wordcraft合作,帮忙替抄袭机器背书。」贴文很快被删除,但截屏已经传开,有人整理出「叛徒名单」,甚至喊出拒读13人作品的抵制行动。

面对围剿,得过雪莉·杰克森奖的希腊作家Eugenia Triantafyllou回应说,她参加时完全不知道这个工具是拿版权作品训练出来的,「在我脑中,它比较像我们用LLM之前的那些奇幻姓名产生器,把音节随机黏在一起——现在想想真的太天真了。」她强调自己后来没再用AI写作,「我已经开始讨厌LLM,现在绝不会再参加类似研究。」而Ken Liu、Robin Sloan这类本来就少用社区媒体的作家,可能根本没察觉自己上了名单。

不是所有人都选择开战。曾任《Strange Horizons》小说编辑的Vajra Chandrasekera在Bluesky发长文说,2022年参加确实是个错误,但「只要他们现在不是还挺AI,我不会苛责当年的选择」;他也提醒,虽然当时反对声浪还没成形,但争议的裂缝其实早就存在。哥伦比亚大学与莎拉劳伦斯学院的创意写作讲师Lincoln Michel则指出,2022年多数人根本没把LLM放在心上,倒是有一批「认真的作家」对它感兴趣且公开讨论——他举了Sheila Heti与LLM合作写成、2023年11月刊登在《纽约客》的《According to Alice》为例,当时的反应大致平静甚至带点好奇。

白皮书里有段标题叫「对Wordcraft建议来源的疑虑」的章节,如今被批评者当作作家早知情的证据。里头写道,好几位参与者对「不知道Wordcraft建议从何而来」表达过严重担忧,其中一位作家Allison Parrish甚至坦承自己会拿AI输出的文字去做网络搜索,确认没有抄袭。但另一位不愿具名的得奖科幻作家告诉Engadget,Google当年并未向他说明技术原理,也没告知还有谁参与这项研究。

作家Talabi的说法或许最能总结这场风波的荒谬——他在Bluesky写道:「这个计划留给我最持久的东西,是对AI垃圾与LLM的深深厌恶,凡是听过我谈这件事的人都知道。我看到了香肠是怎么做出来的,然后拒绝了它。」四年前一场没人在意的实验,如今成了作家们必须公开表态的政治正确测验。

延伸阅读

英国监管机构出手:Android、Chrome 用户未来每年都得重选一次搜索引擎
Tech

英国监管机构出手:Android、Chrome 用户未来每年都得重选一次搜索引擎

英国竞争与市场管理局提出新规范,要求Google与手机厂商在Android与Chrome上提供搜索引擎选择画面,并将每年重复提示,AI助理选择权也被纳入讨论范围。

Xbox 推出 Mythic Achievements,补齐追了十几年的白金奖杯情结
Tech

Xbox 推出 Mythic Achievements,补齐追了十几年的白金奖杯情结

Xbox 公布新机制 Mythic Achievements,玩家全数完成游戏原始成就即可获得,制度可回溯至 Xbox 360 时代作品,目前仅开放 Xbox Insider 测试。

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO
Tech

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO

Anthropic的IPO草案罕见地在招股书中承认自家AI可能对人类构成「存在性风险」,同时揭露去年亏损420亿美元,估值却仍上看2兆美元。

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户
Tech

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户

佛州司法部长Uthmeier周一提交紧急动议,要求法院禁止OpenAI在无独立安全监督下训练新模型,并切断ChatGPT对未成年用户的访问,案件源于今年稍早对FSU枪击案的刑事调查。

TikTok花一亿美元和解 换来的是两小时未成年使用上限
Tech

TikTok花一亿美元和解 换来的是两小时未成年使用上限

TikTok与阿拉巴马州就社区成瘾诉讼达成和解,同意支付至少一亿美元,并承诺对未成年用户祭出每日两小时使用上限、禁用美颜滤镜等措施,未落实恐再罚三亿美元。

《控制:共鸣》定价60美元登场,同周还有专打老板的独立新作
Tech

《控制:共鸣》定价60美元登场,同周还有专打老板的独立新作

《Control Resonant》本周以60美元上市,同一份清单里还有靠打倒首席执行官晋升的《Stick It to the Stickman》,以及11月12日上线的《Ball x Pit》扩充包预告。