Hacker一次成功演示能支持多大的结论？
程序给出了期待的输出。从「它做到了」到「它一定能做到」，中间隔着测试分布、形式假设和真正的使用场景。这些界限在部署压力出现时尤其容易被忽略。
可运行的模型不等于可解释的决策机制
Mickens警告将不透明模型接入金融等重要系统；Karpathy具体区分已知的网络数学架构与尚不清楚的参数协作机制，并强调实证评估。这为高影响部署为何需要额外审查提供技术背景。
对照原文与时间戳 · 2
you connect that inscrutable thing to important real life things like financial marketswe don't know how these parameters collaborate to actually perform that两讲时点和对象不同；不透明并不自动否定一切模型应用，也不能由此断言所有内部机制完全未知。
两条曲线重合，能认出是哪种机制吗？
把模型给出的正确答案换成一条正确的曲线，问题会更尖锐。在第一个模型里，每天按固定倍数增长，只是「新增与已有数量成正比」这条规则的结果。如果每次接触还必须遇到一个易感者，早期两条线可能几乎重叠，后来却会分开。只展示开头不是区分这两种解释的好测试。
原文与时间戳 · 1
For a random shuffling model like this, that could mean including a factor like 1 minus the proportion of people in the world who are already infected.移动小点的模拟给了反方向的例子：把一个小点隔离起来，或者缩短它能够传播的时段，在模型中可能造成同样的效果。此时再把总数曲线画细一点也认不出机制；需要新增一种观察，例如小点是否仍在接触邻居。这是关于模型可辨识性的例子，不是现实干预效果的估计。
原文与时间戳 · 1
If there exists an antiviral therapeutic that can move people out of this infectious category quickly, it has the same effect on the model as isolating those cases.未知训练数据会削弱榜单解释力
Bubeck 因不知道 GPT-4 的训练数据而不愿仅靠公开基准推断能力；Howard 则指出榜单可能混入训练泄漏且与使用场景脱节。两者都要求在公开分数之外设计新的实际任务检验。
对照原文与时间戳 · 2
we don't know what gpt4 was trained on I don't know what gpt4 was trained onsome of the questions from these things actually leaks through to some of the training sets不表示所有基准失效，也不证明 GPT-4 或某个榜单模型存在泄漏；共同点是评测解释需要考虑未知训练重叠。
形式验证愿景先需要可形式表达的知识
Carlini把形式验证协议列为长期防御优势的一条路径；Buzzard指出自动证明研究级数学之前，定义与已知陈述必须先进入形式语言。两者可沿“证明需要可精确陈述的对象与性质”相连，但这一前置条件是跨场景比较，而非Carlini给出的实施清单。
对照原文与时间戳 · 2
in the limit I'll like you know formally verify all of my protocols.Before we can start
proving new theorems, we need to be able to
state old theorems数学定理形式化与软件协议验证不是同一工作流；此关系仅迁移先精确陈述对象与性质、再证明的依赖，不声称 Lean 能自动保证任意协议安全。
成本竞争如何变成部署竞赛
自动化视频强调即使机器较慢，只要足够便宜仍有替代激励；AI困境把竞争带来的力量进一步放到公司发布竞赛中，主张仅靠单家企业克制不足以协调风险。
对照原文与时间戳 · 2
A tenth the speed is still cost effective when it's a hundredth the price.if that technology confers power it will start a race.前者讨论就业替代，后者讨论AI部署治理；不是同一经验研究，也不验证两者的未来预测。
读完再想一步
在演示结论前补上适用条件：换一道题、换一组假设，哪部分还成立？