加拿大作家、《使女的故事》与《盲刺客》的作者玛格丽特·阿特伍近日在葡萄牙波尔图举办的 Babell 文学与文化节上谈及生成式人工智能（AI），直言自己对这项技术并不满意。 在现场访谈中，阿特伍回顾了自己唯一一次使用 AI 聊天机器人的经历，她当时尝试用 Anthropic 的 Claude 查询英国侦探剧《布朗神父》的相关信息，却发现对方给出了错误结论，这让她对当前大语言模型的可靠性产生了质疑。
阿特伍表示，Claude 在回答问题时显然是“胡编乱造”。她指出，这并不是因为系统“有意撒谎”，而是因为它只是一种基于海量文本训练的大语言模型，缺乏人类那样的真实理解能力。 按照她的描述，Claude似乎从大量电视评论和影评中“掠取和拼接”信息，但评论通常不会直接透露剧情结局，这导致模型在有关《布朗神父》的关键情节上被训练语料“误导”。
在批评 AI 工具本身之余，阿特伍也对沉迷依赖这类技术的人表达了不满。 她将这部分使用者称为“机会主义者”，认为他们试图借助 AI 走“捷径”，以一种难以察觉的方式进行“作弊”，而不是投入必要的时间和精力亲自查证或创作内容。 在她看来，技术本身并不能替代人类的判断和责任，如果把内容生产完全交给未经核实的机器，风险终究会由人类自己承担。
阿特伍特别强调，当前的大语言模型严重依赖已发布的网络资料和被抓取的文本数据，这些信息既可能过时，也可能存在偏差甚至错误。 她因此提醒，无论是普通用户还是将其用于商业目的的机构，都不应把机器生成的结果视为“终极权威”，而必须进行人工复核和事实核查。 她指出，许多企业正在将 AI 融入业务流程，但即便出于提高效率的考虑，也必须接受一个现实：这些系统会犯错，输出质量很大程度上取决于输入数据的可信度和完整性。
在谈到生成式 AI 的根本问题时，阿特伍用一句简单的技术俗语概括了自己的态度：“垃圾进，垃圾出”。 她认为，如果训练数据本身就存在缺陷，或是由未经筛选的网络内容构成，那么再复杂的模型结构和再庞大的参数规模，也无法从根本上解决错误与偏见问题。 对她而言，这不仅是关于技术可靠性的疑问，也是对创造力、原创性和人类写作者角色的更广泛反思。
在这场对话的尾声，阿特伍再次提醒听众，机器并不是机器人一样的完美执行者，更不是有道德和经验的人类，而只是一套读取和重组文本的工具。 她主张，在创作、批评和知识生产领域，人们需要保持警惕和责任意识，以防在技术承诺的“便利”背后，牺牲了对真实和准确的追求。