# word2vec

一个很有趣的方法,感觉还是要懂一点哲学才能真正解决问题。

# 学习效率

最近学习效率好低,总结起来有这么几个原因:

  • 时间分配不合理,长段时间没有利用起来
  • 在家的学习过程好像很容易被打断........
  • 学习的范围和目标没有明确确定

所以还是想想最近要做什么。大概要做这么几个事情:

  • 正事
    • 计算机毕设
      • 开题报告(结
    • 金数毕设
      • 开题报告
      • 数据搜集和分析
      • 论文本题就年后再写吧(摆烂了
  • 个人学习
    • 图神经网络
      • CS224W:还是需要选着看,结合论文
    • 群论:抓紧把笔记写完(最近一周做这个吧
    • 金数笔记整理(没错,当年不好好听课的债该还了
      • 投资学
    • others
      • 看一些有趣的论文,写论文笔记

大概如此叭。

# 涌现

涌现真的是一个值得思考的话题。最近 Stanford 的论文 Are Emergent Abilities of Large Language Models a Mirage? 刚刚获得了 NIPS 2023 Oral. 基于组会,这篇文章的一个重要思想就是采用不同的子任务划分可以得到不同的评价结果,任务评价标准的不合理的表现就是涌现。

前两天(一看历史记录已经一周了么,我最近一直在晕晕乎乎嘛)看的一个关于大模型和 AI4Sci 的院士圆桌论坛(巅峰对话:大模型与 Al for Science)也提到了涌现现象。物理上涌现的经典例子如相变(雪花、水沸腾等等)、半导体导电性、超导等等。前几天又似乎想到关于社会结构的所谓涌现,比如生产力发展到一定程度就会引发生产关系的变革?这个没想明白,抽空再想想。