跳到主要内容

万字科普: GPT4 为何会颠覆现有工作流;为何你要关注微软 Copilot、文心一言等大模型

· 阅读需 5 分钟
小卡
Hi 这里是喜欢研究效率工具和思维方式的小卡~

视频是关于 GPT 的底层原理和未来影响。将抛开技术细节,少用专业名词,在整体功能上讲解 ChatGPT 的「工作原理」「制造过程」「涌现的能力」「未来的影响」以及「如何应对」:

  1. ChatGPT 是如何回答问题的
  2. 它是怎么被制造的,为什么它不是搜索引擎
  3. 它有哪些惊人能力,为什么它不只是聊天机器人
  4. 它将给社会带来什么样的冲击
  5. 我们该如何维持未来的竞争力

来源: 渐构社群

GPT 基础原理: 自回归文字生成模型

鹦鹉学舌 大量丰富的材料 → 会让模型得到回答的规律 → 举一反三

ChatGPT 三个训练阶段阶段:

阶段一 开卷有益

  • 掌握语言规律

阶段二 模版规范

  • 超过自己的资料库,不知道的时候,说不知道
  • 如果用户有错时,指出错误
  • 如果是 封闭式问题是,需要 提供 是/不是 的同时,提供原因
  • 补全和续写“有害内容” → 什么该说,什么不该说

我们可以先提供优质的对话 先教 ChatGPT,让 ChatGPT 学习回答。

此阶段获得意外能力

  • “理解”指令要求的能力
  • “理解”例子要求的能力:不知道怎么描述问题,我们可以通过例子引导回答
# 理解例子的能力
...
---
上文中,"#d"标记知识的描述,"#e"标记知识的例子,先学习上文的标记模式,并计入「建构模式」。

分治效应 → “思维链”能力 当 ChatGPT 无法答对一个综合问题时,若要求它分布思考,它就可以一步步连续推理且最终答对的可能性会大幅提升。

问题:过于模版规范化,缺乏创造性,如何让 ChatGPT 自由发挥?

阶段三 创意引导

人类对 ChatGPT 面对一个问题回答做评分,引导 ChatGPT 给出更好的回答。

大语言模型能为人类做什么?

  • 翻译,语言规则 → 语法检测器
  • 在精通语言的基础上 + 存储从古至今积累的「世界知识」→ 「世界书」 - 处理繁重的信息分类、会议总结、格式排版、进程报告等工作,内容数量和复杂度超出人们的处理能力,应用场景:企业、医院、学校、法院、银行、出版社、研究所 - 面对客户的反馈 - 查询患者 病史,正确录入资料 大语言模型(LLM)改善的是:群体协作过程中「创造、继承、应用知识」时的语言处理效率。

社会影响

类似互联网,未来会是每个人都需会”被迫”进入和学会的工具。 教育界、学术界、新闻界、内容产生行业的影响最大。

商业案例

BuzzFeed

教育模式影响

旧教育模式无法适应与产出具有超过 ChatGPT”创造力”的创造力人才。 非常现实的问题:5 年后,如果学校传授的既有知识,任何人靠大语言模型就能实现,那该怎么办?

网络安全

不良内容 通过 ChatGPT 上传播,创造,chatGPT 提问被泄漏。 为了信息安全,公司,国家 需要部署自己的大语言模型。

如何应对

  • 克服抵触心理
  • 克服过去长期养成的“错误习惯”,重塑终身学习的能力:认识论、符号学、数学建模、批判性思维
提示

大语言模型(LLM)影响的是「知识的创造、继承、应用」,这三个环节所构成的学习系统是任何生命系统得以延续的根本,决定着一个「细胞/个体/文明」认识世界和改造世界的能力。

资源