利用人工智能区分天然林与其他林地覆盖，助力实现无森林砍伐的供应链
气候与可持续发展
AI NEWS JOURNAL
全部 AI 动态
保留完整资讯流，用来源、主题和时间找到你关心的消息。
无TD学习的强化学习
在本文中，我将介绍一种基于“另类”范式的强化学习（RL）算法：分而治之。与传统方法不同，该算法不依赖于时序差分（TD）学习（后者存在可扩展性难题），并且能够很好地应对长 horizon 任务。我们可以采用分而治之的方式进行强化学习（RL），而非依赖于时序差分（TD）学习。问题设定：off-policy 强化学习 我们的问题设定是 off-policy 强化学习。让我们简要回顾一下其含义。在强化学习中，算法主要分为两类：on-policy 强化学习和 off-policy 强化学习。On-policy 强化学习意味着我们只能使用当前策略所收集的新数据。换句话说，每次更新策略时，都必须丢弃旧数据。像 PPO 和 GRPO 这样的算法（以及策略梯度方法
word2vec 到底学到了什么？
word2vec 到底学到了什么，又是如何学习的呢？回答这个问题，实际上就是在一种既简单又有趣的语言建模任务中理解表示学习。尽管 word2vec 是现代语言模型的知名前身，但多年来，研究者们一直缺乏一套能够定量且具有预测性的理论来描述其学习过程。在我们的新论文中，我们终于给出了这样一套理论。我们证明，在某些现实且实用的条件下，该学习问题可以简化为无权值的最小二乘矩阵分解。我们以闭式解的形式求解了梯度流的动力学；最终学到的表示形式只需通过主成分分析即可获得。word2vec 的学习动力学：当从较小的初始值开始训练时，word2vec 会以离散、逐次的方式进行学习。左图：秩的递增
通过微调，释放视觉语言模型在卫星影像上的潜能
通过微调，释放视觉语言模型在卫星影像上的潜能
以LLM为裁判评估RAG
以LLM为裁判评估RAG
Mistral微调黑客马拉松
我们很高兴地宣布，Mistral AI微调黑客马拉松将于2024年6月5日至30日举行，这是一场线上活动。