马斯克的大模型 Grok-1 开源了，这是一款拥有3140亿参数的先进混合专家模型，截止目前参数量最大的开源大语言模型。这个版本包含了Grok-1在2023年10月完成预训练阶段时的基础模型数据。这意味着模型尚未经过针对特定应用（如对话系统）的微调。根据Apache…

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

4872 位用户此时在线

24小时点击排行 Top 10：

10月27日，福建高速路口，交警野蛮暴力执法，给理性配合的摩托车驾驶员违规地喷辣椒水。并且在最后试图删掉摩托车驾驶员运动相机里的视频录像，试图销毁暴力执法的证据。

网友投稿：四川省成都市望江楼公园，一男子把衣物整齐摆放后在桥边跳河。

认知比较高的人一般会怎样？

认知比较高的人一般会怎样？

润色，简化：

三年前，日本女作家岸田奈美拍摄了一段视频，展示她双脚残疾的母亲，如何只靠双手，一个人实现驾车出行，这段视频在日本社交媒体上的反响很大，激励了许多残疾人士，也引发了大家对于无障碍设施的关注和讨论。

沦落到老灯一个级别了

俄國播放宣傳片—號召向朝鮮學習，帶著“領袖”畫像走向玉碎😬

在驻日本🇯🇵美军前，川普让日本首相高市早苗说两句，女首相高兴得跳了起来。

精神小伙發生爆炸

网友投稿：10月25日凌晨，湖北省宜昌市三峡大学。一名黑人留学生徒手攀爬至女生宿舍二楼，企图猥亵一名女学生。受害女生奋力反抗并大声呼救，迫使黑人留学生仓皇逃离。随后，宿管阿姨报警，警方介入展开调查。然而，学校为压制舆情，直接解散相关宿舍微信群并禁止内部讨论。事件爆发已逾三天，三峡大学

共產黨說謊時，眼睛比眼鏡瞪得還大。

加州的安大略，一场高速追捕，突然发生令人震惊的转折：一辆汽车故意撞上嫌疑人的摩托车。持枪嫌疑人被撞身亡，这场追捕戏剧性地结束。

10月28日，深圳市龙岗区布吉三联桥附近一仓库起火，现场浓烟滚滚。

在與日本首相高市早苗會面時，特朗普無視日本儀仗隊，他沒有在旗幟前停下。

40岁北京女硕士的相亲十年：我终于明白，当初扔的爱情有多值钱……

悲催的总理

10月28日，《2025胡润百富榜》显示，钟睒睒财富增长1900亿元，以5300亿元第四次成为中国首富，并刷新了中国首富的财富纪录。

川普抵達日本橫須賀美軍基地

10 月 28 日，重庆市公安局发布警情通报，对“台独”分子沈伯洋涉嫌分裂国家犯罪立案侦查。

近日，人民日报连续两天密集刊发多篇与统一台湾相关的宣传文章称，祖国完全统一才是台湾的前途和希望。无论岛内形势如何变化，无论外部势力如何干扰，中国终将统一的“历史大势不可阻挡”。

笑出猪叫近日，日本参议院议员石平在自己的个人YouTube頻道中，对习包子全程开大，多达29分鐘！包括但不限于「小学生」「傻X」「蠢猪」等金句！骂得好发出来给小粉们破防下🤪

郑智化吐槽机场登机不便，最后一个残疾人居然被逼得道歉。放出视频者最用心险恶的一点就是3x加速了，使得视频显得好像郑智化腿脚便利，健步如飞一样。仔细看上方的时间戳你就明白了。

10月24日，福建省福州市长乐区湖南镇仙富村，当地村民正抗议政府强行征收农民耕地。现场涌入大批保安维持秩序，现场有老人被推搡倒在地上。

搞笑视频：薄书记怒怼包子帝：一派胡言！只有小学文化水平的包子帝，在公开场合屡次“语出惊人”：读错字、念书单，语言匮乏，逻辑混乱，频频闹出笑话！这支搞笑短片，以讽刺幽默的方式再现他的荒诞发言，讽刺虚假的“伟光正”形象，博君一笑。

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

bad-news.linginglu.eu.org

马斯克的大模型 Grok-1 开源了，这是一款拥有3140亿参数的先进混合专家模型，截止目前参数量最大的开源大语言模型。
这个版本包含了Grok-1在2023年10月完成预训练阶段时的基础模型数据。这意味着模型尚未经过针对特定应用（如对话系统）的微调。
根据Apache…
IT技术
( twitter.com )

1年前由宝玉提交

马斯克的大模型 Grok-1 开源了，这是一款拥有3140亿参数的先进混合专家模型，截止目前参数量最大的开源大语言模型。

这个版本包含了Grok-1在2023年10月完成预训练阶段时的基础模型数据。这意味着模型尚未经过针对特定应用（如对话系统）的微调。

根据Apache 2.0许可协议，向公众开放模型的权重和架构。

模型详细信息
- 该基础模型通过大量文本数据训练而成，未专门针对任何具体任务进行优化。
- 3140亿参数构成的混合专家模型，其中25%的参数能够针对特定的数据单元（Token）激活。
- xAI团队利用定制的训练技术栈，在JAX和Rust的基础上，从零开始构建了此模型，完成时间为2023年10月。

- 模型参数数量高达3140亿
- 混合专家模型(Mixture of Experts, MoE)
- 每一个数据单元(Token)由2位专家处理
- 共64个处理层
- 用于处理查询的有48个注意力机制单元(attention heads)
- 用于处理键(key)/值(value)的有8个注意力机制单元
- 嵌入向量(embeddings)的维度为6,144
- 采用旋转式嵌入表示(Rotary Position Embeddings, RoPE)
- 使用SentencePiece分词系统处理，包含131,072种数据单元
- 支持激活数据分布计算(activation sharding)和8位数字精度量化(8-bit quantization)
- 最大序列长度为8,192个数据单元，以处理更长的上下文信息

https://t.co/u276i7CnwE
https://t.co/SmQ2tr27bb

点击图片查看原图

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

马斯克开源混合专家模型Grok-1
大陆资讯
( 36kr.com)

1年前 • 妹特思棒味 • -- 点击 0 评论

2

2

1

1

马斯克旗下大模型公司xAI宣布正式开源3140亿参数的混合专家（MoE）模型“Grok-1”。Grok-1为当前参数量最大的开源大语言模型。
不过与目前推特X平台付费版的Grok不同，Grok-1从头开始训练，没有针对任何特定应用进行微调。
时政
( twitter.com)

1年前 • 外汇交易员 • -- 点击 0 评论

3

2

1

1

最良心的一集:
马斯克宣布要开源X的Grok AI模型
(我才发现)
停止人身攻击马斯克一天。
时政
( twitter.com)

1年前 • 柑橘小孤獨🐱🏴‍☠️ • -- 点击 0 评论

4

3

2

2

开源之光:RedPajama重塑大语言模型的未来
LLaMA最强平替，超12万亿训练数据，全开源
1. 开源12万亿训练数据，参考LLaMA数据集配比。
2. 模型马上开源
*标题由Claude生成…
推特中文圈

开源推荐
( twitter.com)

2年前 • nash_su • -- 点击 0 评论

5

2

1

1

今天马斯克开始公布，这个老哥汇总了一下泄露的所有信息。

首先 Grok 可以实时访问𝕏上的信息。
与其他只能根据训练时间访问信息的模型相比，这是一个巨大的优势。
鉴于𝕏是突发新闻的最佳位置，Grok…
IT技术
( X.AI)

2年前 • 歸藏 • -- 点击 0 评论

6

2

1

1

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。
Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

7

2

1

1

马斯克X AI发布Grok-1.5 Vision 多模态模型
Grok-1.5V能够处理文本以及各种视觉信息，包括文档、图表、截图和照片。
基准测试中，Grok-1.5V 的能力和GPT 4V不相上下，多项指标甚至超过GPT 4V！
在新RealWorldQA真实世界物理空间基准中的表现超过GPT 4V等所有模型！…
时政
( twitter.com)

1年前 • 小互 • -- 点击 0 评论

8

2

1

1

我毫不怀疑，马斯克只要把返回代码开源，中国人三个月之内就能克隆出一模一样的东西，三年后就能克隆出更大的。
而马斯克一定会这么干。
为什么？
马斯克利益最大化。
时政
( twitter.com)

1年前 • 大老王 • -- 点击 • 下载视频 0 评论

00:01:52

9

2

1

1

开源的 TTS 模型，可以克隆声音
IT技术
( twitter.com)

8个月前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:01:21

10

2

1

1

Grok都亲自发推证实马斯克、川普、肯尼迪为三大谣棍。小心你要被开除了🤣
时政
( twitter.com)

7个月前 • Michael • -- 点击 0 评论

11

2

1

1

模型和工程文件开源了，在这里：
推特中文圈
( twitter.com)

4年前 • twitter机器人 • -- 点击 0 评论

12

2

1

1

哈哈哈哈哈哈
给我笑尿了
川粉马斯克粉气急败坏骂批马斯克谣棍的grok
时政
( twitter.com)

7个月前 • 川和 koi iok ！👊🇺🇸🔥 🇺🇦境外爱❤️习❤️🇨🇳势力 • -- 点击 0 评论

13

2

1

1

《开源大模型食用指南》基于 Linux 环境快速部署开源大模型，更适合中国宝宝的部署教程
IT技术
( github.com)

1年前 • Geek • -- 点击 0 评论

14

2

1

1

开源模型做到这个水平真的是厉害了。
IT技术
( twitter.com)

2年前 • orange.ai • -- 点击 0 评论

15

2

1

1

Meta 发布了新一代的可商用的开源大语言模型 Llama2，虽然依然不如 ChatGPT 3.5 的水平（特别是code），但是吊打其他开源模型了，真的卷王！
不光开源了模型，还写了一篇76的paper，把各种细节都讲的清清楚楚，相比 OpenAI，这是真的开放！强烈建议大家去阅读，下载地址：

IT技术
( ai.meta.com)

2年前 • orange.ai • -- 点击 0 评论

16

2

1

1

你们别被马斯克这个大骗子忽悠了！人家系统提示词里面写了：
“The current date is February 20, 2025. Your knowledge is continuously updated - no strict knowledge cutoff.”
也就是说它无论模型的 cutoff 日期是多少，你问它，它永远显示 cutoff 是今天！
*
Grok 3 System Prompt
*
You
IT技术
( twitter.com)

8个月前 • 宝玉 • -- 点击 0 评论

17

2

1

1

马斯克的 ChatGPT 「Grok」，用起来到底怎么样？
大陆资讯
( www.geekpark.net)

1年前 • 洞房花钱夜 • -- 点击 0 评论

18

3

2

2

这篇文章《Discover 4 Open Source Alternatives to GPT-4 Vision》介绍了 4 个 GPT-4 Vision 的开源替代方案：
1. LLaVa（大型语言和视觉助手）
LLaVA 代表了一种创新的、从头到尾训练的大型多模态（multimodal）模型。它融合了视觉编码器和…
IT技术
( llava-vl.github.io)

1年前 • 宝玉 • -- 点击 0 评论

19

2

1

1

伯克利的一个团队针对一些专有模型和开源模型做了 Elo 评级，，目前遥遥领先的仍然是 GPT 和 Claude 等专有模型。图中，前三行都是 RLHF 模型，它们是经过强化学习的模型，…
IT技术
( twitter.com)

2年前 • Barret李靖 • -- 点击 0 评论

20

2

1

1

#AI开源项目推荐：Mochi Diffusion

一个开源的SwiftUI的Stable Diffusion原生Mac客户端，这个支持77个SD主流的画图模型，都已经转换成了Core ML模型，包括大家熟悉的ChilloutM…
IT技术
( twitter.com)

2年前 • 宝玉 • -- 点击 0 评论

21

2

1

1

马斯克的Grok ，准备推出财经资讯功能。
时政
( twitter.com)

2个月前 • Inty News • -- 点击 • 下载视频 0 评论

00:00:37

22

3

2

2

马斯克宣布，xAI 开发的 AI 聊天机器人 Grok 3 将于太平洋时间周一晚上 8 点正式发布。
Grok 3 被称为“地球上最聪明的 AI”，预计将在推理、速度和实时能力方面大幅超越当前模型，推动 AI 技术的重大进步。
此次发布引发了广泛讨论，人们关注其在 AI 规模法则上的突破以及与 ChatGPT 等其他 AI
时政
( twitter.com)

8个月前 • 勃勃OC • -- 点击 0 评论

23

2

1

1

这就是自诩开源模型永远打不过的百度闭源模型，在失掉苹果AI单子之后，继续闭源下去。
时政
( twitter.com)

8个月前 • Michael Anti • -- 点击 0 评论

24

2

1

1

马斯克推出 AI 百科全书
其旨在打造一个类维基百科的平台，网站名称源自马斯克旗下xAI公司开发的AI引擎“Grok”。
目前，该平台已拥有超过 80 万条由人工智能编写的词条。

btc
( www.techflowpost.com)

11小时前 • TechFlow 深潮｜APP 已上线 • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页

0.10218 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad-news.linginglu.eu.org All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特