博客列表

【Silicon Decoder Weekly】004期：DeepMind AI、SD访谈、彭博周刊

东京200家米其林指南

历史上的今天：
2009年5月28日，微软推出Bing搜索引擎。在AI赋能之上，2022年10月其全球桌面市场份额一度达到9.92%，活跃用户达到1亿。

一周动态

2023年5月28日

使用AI加速科研

  • DeepMind CEO Demis Hassabis介绍了如何将技术应用于数据中心能源消耗、生成性眼病和蛋白质折叠等领域，还谈到探索核聚变和通用人工智能的努力；
  • AI探索人类大脑和回答深层科学问题的潜力；
  • AlphaGo和用于Atari游戏的端到端强化学习系统；
  • 深度学习系统AlphaFold，使用AI根据氨基酸序列预测蛋白质的3D结构；
  • AI在量子化学、聚变反应堆和预测降雨的几个例子，DeepMind最好的聊天模型是Sparrow；
  • 机器人技术可作为一个基础问题，例如运动、机器人手臂和足球队协调教学，但存在技术单一文化，大部分资源投入到少数未来方向；

彭博华尔街周刊 - 05/26/2023

  • 美国债务上限谈判现状及市场反应；
  • 投资者从周期性股票转向科技和防御性股票；
  • 预测加息25个基点，对美联储应对经济和通胀压力存疑；
  • 将人类判断叠加在AI算法之上，提升金融领域工作效率；
  • 重新思考华盛顿对预算和赤字的处理，真正改变不止需要新标志或一双时髦的鞋子；

20VC访谈Stable Diffusion CEO

  • Emad Mostaque从对冲基金到自闭症治疗方法到引领人工智能世界；
  • 如何辨别模型的真假？
  • 5家真正重要的人工智能公司有哪些？
  • AI的泡沫有多大？人工智能出版商？
  • 开源还是闭源？谷歌的备忘录指出Google和OpenAI都不领先？

训练GPT的过程

  • 使用大数据集进行预训练；
  • 通过标记化和翻译生成模型；
  • 小模型功能比GPT3更强大；
  • 训练过程包括预训练、监督微调、奖励建模和强化学习；
  • 通过提示、自洽和提示工程提高Transformer性能；
  • LLM局限性：偏见和推理错误，在人工监督的低风险应用中使用它们；

往期推荐

  1. 【李克勤 X 炎明熹 】合久必婚
  2. 【Silicon Decoder Weekly】003期：从零构建GPT、特斯拉股东大会、WebGPU
  3. 【Silicon Decoder Weekly】002期：谷歌CEO访谈、Google I/O、王国之泪
  4. 【Silicon Decoder Weekly】001期：财报季、AI学习笔记、巴菲特股东大会

Silicon Decoder Weekly，摘选科技、财经每周动态，让您的时间更宝贵～