2026.09.30 | 9K | Pharma | GSK Ex-Expert: Fast Inference Demand
原标题：GSK离职专家|GSK快速推理潜在需求按场景数量或占全部生成式AI推理服务需求约80%，机器学习模型开发可由一个月以上缩短至一个星期内，Teams转写总结趋向实时，Design Space与Laboratory Automation具备高算力价值
摘要
GSK快速推理需求按生成式AI业务场景数量或占约80%，主要价值集中于模型开发、翻译、实时会议总结、Design Space、Laboratory Automation及历史知识整合。模型开发或可压缩至一周内，实验报告生成仅需原FTE的0.2，但复合型人才不足与员工普及率仍是落地障碍。
要点
- 按业务场景数量计算，快速推理潜在需求可能占GSK全部生成式AI推理服务需求的80%左右，而非按token数量计算；若以公司全部业务为分母，由于医药行业仍需大量实体工作，占比会低很多
- 快速推理可将机器学习模型开发从无生成式AI时的一个月以上、现有AI辅助下的约两个星期进一步缩短至一个星期内，并推动AI从代码辅助转向建模思路、项目建议和交互式迭代
- GiGi翻译需处理PDF及纸质手写报告扫描件并完成文字提取，过去还需中文人员辅助；快速推理若带来5倍到10倍提速，翻译时间至少可以减半，并可能减少相关辅助人力
- Teams会议转写过去需在会议结束后等待3到5分钟，再由Copilot用约2分钟生成摘要；快速推理可在会议过程中逐步输出内容，使会议接近结束时所需稿件基本完成
- Design Space可基于约20个既有数据点，从至少100个或500个待推理点中寻找兼顾产量与产品质量的最优条件；模型用于不同大分子或小分子时还需重新训练和预测，快速推理可同时支持模型构建与应用
- GSK全球可能有八九万人，而AIML部门约百十来人、生成式AI人员仅几十人，生成式AI人员与研发人员比例可能达到几十比一；业务细分且通用性弱，兼具前沿AI与制药研发理解的人才不足和员工接受度构成主要部署挑战
Q:可以整体介绍一下，在GSK，大语言模型主要应用于哪些工作和场景吗？
A:GSK有两个大语言模型，一个叫GiGi，一个叫Jules。GG用于非研发场景中的简单业务文档分析，也可以完成一些翻译工作，因为内部不允许使用外部翻译软件。Jules主要面向研发员工开放，没有连接任何内部业务文档，但设置了若干研发相关的提示词，例如大分子生物制药和小分子化学。它与内部已有实验和信息并不连通，是一个面向研发人员、保密性较高的AI工具。
在编程方面，AI的应用场景较多。Databricks是一个数据与人工智能平台，可以在其中编写SQL提取数据、开展简单分析，并将结果用于制作仪表板。Visual Studio Code主要用于编写Python和R代码，其中的Copilot可以辅助模型开发和代码编写。
GitHub是在线代码版本控制平台，可以同步编写完成的代码和模型。Git命令与Python等主流编程语言不太相似，而与Linux命令较为接近。对于不熟悉相关语法的用户，Copilot可以辅助完成同步操作。
第四类应用是在Teams会议软件中使用Copilot。用户可以询问与Teams历史沟通内容相关的问题；Copilot还可以提取和分析会议转写内容，并在会议结束后生成摘要。
实验完成后，数据会上传至数据库。过去，实验人员需要手动调取既有实验报告模板，再填入新数据；后来开发了一个相对简单的AI应用，可以在产生新数据后自动生成实验报告。
相关材料提到GSK使用Cerebras GT管线的四项应用。前两项应该属于纯研究，第三项属于小分子开发。
Q:网上资料显示，GSK使用Cerebras的服务开展表观基因组学建模、蛋白质结构预测、小分子生成与优化等应用。您能否确认这些应用确实存在，或者是否听说过相关情况？
A:由于我与相关部门完全没有关联，因此无法判断他们是否确实使用过这些服务。
Q:类似Cerebras这种提供快速推理服务的公司，从使用者角度看，有哪些现有或潜在场景适合采用快速推理服务？请结合您熟悉的领域展开说明。
A:基于已有AI应用，大概可以归纳出五六个潜在方向。
第一是大分子药物发现。由小分子生成和优化可以联想到近期可能较热门的大分子药物发现方向，其过程包括寻找合适的分子、生产指定抗体，并在筛选后交给下一个部门。该方向称为AI-driven Drug Discovery。不过，我对这一方向了解有限，因此不作进一步展开。
第二是将快速推理应用于常规实验资源和人员分配。第三是用于AI辅助的实验仪器监测，帮助开发Laboratory Automation。第四是Design of Experiments，用于日常实验设计。实验并不总是按照高度规律化的流程进行，因此也需要专门设计。
第五是在Design of Experiments产生实验结果后，利用这些数据构建设想中的模型，例如工艺Design Space。工艺中有许多可以调整的维度，可以将其理解为一个五维空间，并通过建模从整个空间中选出一个或几个相对最优的点。这个过程需要较多资源，因此快速推理可能具有应用价值。
第六是将Jules接入实验报告和既有知识。Jules作为面向研发的AI，目前没有连接内部既有知识。如果能够形成交互式场景，并通过上下文检索等方式，让实验科学家一边提问、一边迭代假设，同时调用海量实验数据，会比较有用。
Q:使用大模型推理服务时，用户能否感受到token或回答生成速度的快慢？对于tokens per second per user这类性能指标，用户体验上是否存在明显差异？
A:交互式AI与普通用户在公司外使用的AI并无特别大的区别。从专业角度看，其速度可能比快速推理慢很多。编程场景主要基于已有脚本或大型模型中的部分代码进行提问，问题通常并不复杂，因此速度不是主要问题。速度差异主要体现在交互式AI场景。
Q:请进一步说明快速推理在上述场景中的价值。假设快速推理能带来5倍到10倍的速度提升，它将如何降本增效，具体可能快多少？
A:快速推理可以降本，因为上述应用能够节省大量人力。但如果“增效”是指增加收入，这可能不是研发阶段需要考虑的问题，而是非常后端的事项，可能要经过以年计的时间才能量化最终收入。至于Drug Discovery和AI-driven Drug Discovery，由于了解有限，目前难以判断。
GG翻译是适合采用快速推理的场景。GSK部分部门曾与中国的CRO公司合作，双方需要处理手写文档，先进行文字提取，再完成翻译，整个过程非常费力。即使当时已经使用AI，仍然比较耗时。如果快速推理能够将速度提高5倍到10倍，就可以显著减少合作过程中那些虽然并非不必要、但不属于制药技术本身的痛点。
Teams在线会议的转写自动生成很适合快速推理。过去需要等整场会议结束，会议转写可能还要3到5分钟才能生成；再将内容输入Copilot进行总结和生成会议要点，又需要约2分钟。如果接入快速推理，也许可以在会议过程中实时获得较为完整的总结:会议进行到一半时完成前半段总结，会议接近结束时，所需稿件也基本完成，随后即可较快分发给参会人员或相关管理人员，效率会有非常明显的提升。
第四个场景是编写机器学习模型。根据相关信息，快速推理不仅能显著提高token处理速度，逻辑能力似乎也略有提升，对复杂问题的解决能力可能更强。过去使用AI编写代码时，通常要先完成模型或至少形成建模思路，再让Copilot解决较为纯粹的代码和编程语言问题，尚未结合对科学问题或机器学习的理解。如果接入快速推理，系统可以围绕建模思路开展交流和总结，帮助判断应从哪个方向切入具体问题，而不只是协助编写代码。
形成解决思路在整个建模过程中占用的时间最长，迭代周期可能以月计。例如，第一个月按照现有思路完成一个较为初步的模型，获得反馈后，再进行下一版本的迭代。如果结合快速推理，也许可以将以月为单位的周期缩短至以周为单位，速度提升很多倍。
第五个场景是根据实验数据自动生成实验报告。快速推理在这一场景中的作用相对有限，因为报告通常采用固定模式，只需代入数据即可直接生成，不需要很多算力。与其他场景相比，这是快速推理应用价值最小的方向。
第六个场景是AI辅助实验仪器监测，即Laboratory Automation。根据部分文献，中国的CRO药明生物可能已经做得较好，但无法确认其是否使用了快速推理。对GSK而言，这也是一个很有潜力的发展方向。至少截至所了解的时间，GSK在开发阶段的实验仍采用较传统的方法，由人工进入实验室操作仪器；行业内较先进的实验室已使用机械臂和机器人完成全套流程，无需人员进入实验室。欧美药企未来可能会逐步以更先进的模式取代传统实验方式。
Laboratory Automation的整个过程离不开AI。无论是机器人控制还是实验操作，都需要AI辅助，也更需要快速推理。该方向的速度应该可以提高很多倍，同时节省大量人力。
建立连接实验报告和历史数据的交互场景，可以节省实验科学家自行查询历史资料的大量工作。药企人员更换较快，知识传承可能不连续。人员离开后，未必能将知识完整传递给继任者；继任者可能只接收到50%，其余50%则沉睡在数据库中无人问津。借助AI，可以缓解知识连续性问题，并提取既有知识，将其用于合适的应用场景。
AI还可以自动整合历史上难以提取的多渠道数据。不同实验仪器生成的数据在格式和来源上可能不同，这对实验科学家和数据科学家都是问题。结合上述应用场景，基本可以形成较完善的知识管理体系。过去仅靠人力无法完成这项工作，而且数据量非常大。对于现有AI的处理速度，我并不十分乐观；如果采用快速推理，速度应该可以显著提升，同时降低不同部门乃至整个公司之间的壁垒。
Q:对于Teams的会议转写生成和总结场景，是否可以理解为工作量未必特别大，但需要AI非常快速、即时地生成结果？
A:是的，这个应用场景对实时性要求较高。会议进行过程中，系统需要逐步生成相关内容，实现实时输出。
Q:在GSK与中国CRO公司合作的翻译场景中，是否因为翻译工作量较大，所以快速推理可以显著缩短翻译时间？
A:基本如此。文件来自不同来源，包括纯PDF文件和纸质手写报告的扫描件，需要先通过文字提取技术识别内容。当时还需要会中文的人员提供辅助。使用快速推理后，这部分人力可能不再特别必要。此外，翻译量本身非常大，应用快速推理后，所需时间至少可以减半。
Q:在编写机器学习模型的场景中，是否需要AI帮助形成思路，并在模型完成后快速提供反馈、开展互动和迭代？快速推理是否可能将以月为单位的建模周期缩短至以周为单位？
A:是的，一方面需要进行交互式迭代并提供反馈；另一方面，希望AI从过去只提供代码层面的建议，转变为对整个模型或整个项目提供建议。
Q:您提到过一个包含大量排列组合和搭配方式、计算量特别大的场景，可以使用快速推理提升效率。这个场景具体是什么？
A:该场景是Design Space。实验过程中存在大量设定，例如温度、湿度、加入液体和固体的数量等，这些变量共同构成一个多维空间。此前举例说明的是一个四维空间。
四维空间中可能存在一个最优点，可以基于既有实验数据建立模型。例如，现有数据可能只有20个点，而整个空间至少有100个或500个待推理的数据点。目标是基于这20个数据点，从500个数据点中推断并选出一个最优条件，使产量和产品质量达到最佳。
Q:使用快速推理是否可以大幅缩短Design Space模型的推定时间？
A:首先，该模型尚未完整构建，快速推理可以为模型构建提供帮助。其次，模型完成后可以应用于不同的大分子或小分子；每次应用时都需要重新训练模型并给出预测，这一过程同样需要计算时间，因此快速推理也可以提高这一环节的速度。
Q:Design Space和AI辅助实验仪器监测是两个不同的场景吗？
A:是的，可以视为两个场景。
Q:如果将这些需求抽象化，是否都可以理解为工作量或运算量较大，而快速推理能够大幅缩短处理时间？
A:从计算量角度看可以这样理解，但具体应用场景有所区别。
Q:如果将历史数据接入交互式AI，这一需求更接近实时互动和响应，还是更偏向于因运算量特别大而需要快速推理显著缩短处理时间？从抽象层面看，它属于哪类需求？
A:设想是将所有历史知识和数据纳入系统，因此数据量肯定比前述建模场景更大。建模可能只从这些海量数据中提取1%使用，所以该场景的数据量会比此前大很多个数量级，更接近运算量特别大的需求。
Q:根据您的观察或推断，在GSK部署快速推理服务会面临哪些挑战？
A:首先，从开发角度看，GSK规模很大，全球可能有八九万人。医药业务进一步细分为大分子、小分子和疫苗，下面还有更多细分方向，各方向之间的通用性并不强。公司需要既懂前沿AI技术、又懂具体制药方向的人才，由这类专才承担类似产品经理的职责。这是较大的挑战，因为很多场景都缺少兼具研发业务理解能力和需求判断能力的人才。
AIML部门可能最多只有上百人，而且并非所有人都从事生成式AI。因此，生成式AI人员与研发人员的比例可能达到几十比一。很多项目也许具有潜在应用价值，但AI Engineer不熟悉相应方向，或者相关部门尚未提出需求，导致一些相对小众的领域尚未被覆盖。
从应用者和用户角度看也存在挑战。从国际视角看，欧洲的科技发展水平相对于中国和美国可能较为落后。医药研发人员中，有些人已连续几十年从事相同工作，年龄也相对较大，更倾向于按照传统方式开展工作。
对于部分员工而言，AI工具的推广效果比较一般。因此，相关工具在员工中的普及率仍有提升空间。
Q:AIML部门共有多少人？其中从事生成式AI的人员是否大约有二三十人？
A:这只是预测。整个部门约有百十来人，无法确定其中从事生成式AI的具体比例，但人数肯定是几十人。
Q:作为公司内部AI的用户，是否能看到自己正在使用的具体模型？
A:Jules可以选择模型。至于GG，我没有特别注意是否可以选择模型。
Q:Jules通常提供哪些模型？
A:此前提供过GPT、DeepSeek、Gemini等模型。在我离职时，Jules中有GPT的几个4点几版本，也有Gemini的几个版本。
Q:从您的角度看，快速推理的潜在需求可能占GSK全部AI推理服务需求的百分之多少？
A:此前没有仔细思考过这个问题。经过归纳后可以发现，潜在方向非常多。前述七八个方向中，只有一两个方向采用快速推理后的提升不大。因此，按业务场景数量计算，快速推理的潜在需求可能占AI业务场景的80%左右，而不是按token数量计算。
不过，医药行业整体仍属于实体行业，需要完成大量实体工作，并非所有事项都能通过AI解决。因此，如果以公司的全部业务为分母，快速推理的占比会比80%低很多。
Q:确认一下，您所说的80%，分母是全部生成式AI推理服务需求，分子是其中可以采用快速推理的需求，对吗？
A:是的。
Q:GSK在各部门推广GG、Jules等生成式AI工具时，由谁主导？具体通过怎样的过程让员工逐步使用这些工具？
A:大约从2024年后半段开始，AIML部门推出了这些AI工具。最初会举办在线宣讲会，向全公司员工发送邮件，通知在特定时间讲解如何使用AI，感兴趣且有时间的员工可以参加。
后续推广还会在每月的部门会议中展示应用案例，使用部门已有数据进行小型演示，说明可以向系统输入哪些内容、如何提问，以及可能得到什么结果。这是一种比较朴素的推广方式。
Q:部门领导通常如何衡量生成式AI或某个应用案例是否有用？
A:部门领导会通过相关会议或面向全公司的宣讲会了解具体应用案例，也会查看每月展示的应用案例，以此判断生成式AI及相关工具是否有用。
以实验报告为例，可以比较手动编写与使用AI自动生成所需的年度人力，并通过FTE进行量化。使用AI后，可能只需原FTE数量乘以0.2即可完成相同工作。因此，有时会使用这类可量化的比例评估成果。
Q:除实验报告外，能否再举一个典型的生成式AI应用案例？可以是编写机器学习模型、AI辅助实验，或者向其他部门推荐生成式AI时使用的案例。
A:可以举一个技术性较强的例子。光谱、质谱等工作产生的数据，大致可以理解为横轴表示时间，纵轴表示谱的强度，分析目标是找到谱中的峰值。虽然通过肉眼可能识别峰值，但为了保证严谨性，仍需要编写模型进行自动检测。
该方向使用了较多AI辅助，例如选取某个具体的机器学习模型并导入数据。在编写代码和整理整个模型结构时，生成式AI提供了大量代码层面的帮助，最终形成了可以用于后续实验场景的具体模型。不过，当时并未使用快速推理。
Q:上述光谱或质谱模型案例，在完全没有生成式AI时需要多长时间？使用生成式AI后需要多长时间？如果未来采用快速推理，又可能需要多长时间？
A:如果完全没有生成式AI，可能需要一个月以上才能形成较为初级的模型版本。使用现有AI后，主要工作仍是找到合适的机器学习模型并导入数据，可能需要约两个星期。如果采用快速推理，我认为可以在一个星期内完成。
Q:医药行业其他公司的生成式AI和快速推理应用场景是否与GSK类似？例如，阿斯利康等不同药企之间的应用场景是否大致相同？
A:不同公司之间更大的差别可能来自研究方向。如果研究方向相同，不同公司之间的交流较多，基本处于较为同步的发展状态。因此，从公司层面看，整个行业的应用方向大致相似。
Q:GSK为相关部门招聘的人员通常具有什么背景？主要是软件工程师，还是其他类型的人才？
A:相关岗位包括软件工程师、AI Engineer和Machine Learning Engineer，通常要求至少具备一定的AI背景。公司似乎也招聘过将AI应用于金融方向的人才，但这可能属于研发以外的业务。此外，还有少量与AI X方向相关的人才。
Q:这些部门的员工是否不一定需要了解医药行业，只要具备AI和机器学习能力即可？
A:相关职位描述通常将特定医药研发经历列为优先条件，但更加看重AI和机器学习方面的专业能力。
Q:您了解Anthropic推出的[MH-S]及其与Genentech合作的相关应用吗？
A:对这方面不太了解。
Q:Anthropic、OpenAI等头部大模型厂商经常提到，AI将在医疗行业、癌症治疗等领域发挥重大作用。如果落实到具体应用，主要是前面提到的大分子药物发现，还是其他场景？
A:这些公司，包括英伟达、OpenAI等，提出的设想主要集中在Drug Discovery方向。其他方向从落地到体现成果所需的时间可能过长，而这些公司需要选择能够较快看到成果的方向。因此，Drug Discovery是它们最希望推进的方向。
Q:Drug Discovery是否属于运算量非常大的工作？这类工作负载或应用场景具有哪些特点？
A:其运算量肯定很大，实验数量也较多，因为它处于较为初步的分子筛选阶段，包括大分子和小分子筛选。按我的理解，小分子方向每天需要处理大量小分子；大分子方向可能更困难，因为涉及真实的生物体系。两个方向需要处理的分子数量都非常多。
如果能够快速地从大量分子中筛选出8个或10个候选分子，就可以形成可量化的成果。
以上仅供交流探讨，不构成投资建议