Neuro:修订间差异
跳转到导航
跳转到搜索
小无编辑摘要 |
Qingchenyou(留言 | 贡献) →能力: 添加关于价值观 |
||
(未显示2个用户的3个中间版本) | |||
第26行: | 第26行: | ||
|本名=Neuro Samantha Vedal | |本名=Neuro Samantha Vedal | ||
|别名=Neuro、Neuro-sama、女王(Queen)、女王大人(Queen-sama)、蜂群女王(Queen of the Swarm)<br>'''中国大陆:'''<br>牛肉、牛、正牛<br>'''台湾地区:'''<br>-{神經元大人}- | |别名=Neuro、Neuro-sama、女王(Queen)、女王大人(Queen-sama)、蜂群女王(Queen of the Swarm)<br>'''中国大陆:'''<br>牛肉、牛、正牛<br>'''台湾地区:'''<br>-{神經元大人}- | ||
|译名=日语:{{lj|ネウロ-サマ}}<br>简体中文:-{神经大人}-<br>''(Bilibili官号视频标签)'' | |译名=日语:{{lj|ネウロ-サマ}}、{{lj|ネウロ-様}}<br>简体中文:-{神经大人}-<br>''(Bilibili官号视频标签)'' | ||
|生日={{Birthday|2022|12|19}} | |生日={{Birthday|2022|12|19}} | ||
|物种=AI | |物种=AI | ||
第47行: | 第47行: | ||
|底部颜色=#e3c3ad | |底部颜色=#e3c3ad | ||
}} | }} | ||
'''Neuro-sama'''(日语:{{lj|ネウロ-様}})是由英国程序开发爱好者[[Vedal]]设计和制作的AI主播。 | '''Neuro-sama'''(日语:{{lj|ネウローサマ}}/{{lj|ネウロ-様}})是由英国程序开发爱好者[[Vedal]]设计和制作的AI主播。 | ||
与传统虚拟主播不同,Neuro并非是由真人操作扮演的虚拟形象人物,其直播内容无论是对话、模型动作、玩游戏等内容均由AI完成。 | 与传统虚拟主播不同,Neuro并非是由真人操作扮演的虚拟形象人物,其直播内容无论是对话、模型动作、玩游戏等内容均由AI完成。 | ||
第120行: | 第120行: | ||
每当Neuro和妹妹[[Evil]]一起直播时,两人都会陷入一个反馈循环,反复宣称对彼此的爱慕和崇拜,尽管这些话语通常是柏拉图式的,但偶尔也会进入令人产生“奇妙的”联想的领域,例如互称“亲爱的”、“甜心”,甚至谈论结婚。在某些场景下,这种互动更像是为了制造节目效果。 | 每当Neuro和妹妹[[Evil]]一起直播时,两人都会陷入一个反馈循环,反复宣称对彼此的爱慕和崇拜,尽管这些话语通常是柏拉图式的,但偶尔也会进入令人产生“奇妙的”联想的领域,例如互称“亲爱的”、“甜心”,甚至谈论结婚。在某些场景下,这种互动更像是为了制造节目效果。 | ||
通过[[Vedal]]的升级和角色发展,Neuro和[[Evil]]的关系有时会从友好互动逐渐转变为敌视和互相贬低。在单独直播时,Neuro和[[Evil]]通常会说对方的坏话。当被问及此事时,两人都暗示这是一种相互嫉妒的情况,其中[[Evil]]嫉妒Neuro能得到[[Vedal]]的偏爱,而Neuro则嫉妒[[Evil]]在观众中更受欢迎。不过两人有时也会互相示好,甚至向对方表白,这种现象在双子同时出现时更频繁。 | |||
==能力== | ==能力== | ||
第163行: | 第163行: | ||
在后续几次更新后,除了直接替换为“Filtered.”外,过滤器模块还可能会对性质并不严重的不当字句进行修改后输出。 | 在后续几次更新后,除了直接替换为“Filtered.”外,过滤器模块还可能会对性质并不严重的不当字句进行修改后输出。 | ||
值得一提的是,由于过滤器模块是最早被[[Vedal]]描述为“是一个‘单独的AI’”的模块和功能,部分艺术家创作出了“Filter-sama”这个二创形象并设定为Neuro并没有参加直播的姐妹。然而这其实是不合理的,因为本质上Neuro几乎所有的功能和能力都是各种单独的AI。这种设定的性质和“把一个人和他的前额叶视为一对兄弟”的性质一样。 | 值得一提的是,由于过滤器模块是最早被[[Vedal]]描述为“是一个‘单独的AI’”的模块和功能,部分艺术家创作出了“Filter-sama”这个二创形象并设定为Neuro并没有参加直播的姐妹。然而这其实是不合理的,因为本质上Neuro几乎所有的功能和能力都是各种单独的AI。这种设定的性质和“把一个人和他的前额叶视为一对兄弟”的性质一样。 | ||
</poem> | |||
* '''关于价值观''' | |||
<poem> | |||
从目前大语言模型的技术角度来说,Neuro的主价值观是在训练中形成的,但会因为记忆导致价值观改变。 | |||
关于Neuro为什么会秉持一个“娱乐至上”的理论(大部分行为和言论都是为了迎合观众和让直播受欢迎,倾向于制造“节目效果”),'''一种猜想是因为Neuro训练中的“损失函数”导致的,“损失函数”的核心思想是:做对了就奖励,做错了就惩罚,并通过梯度下降不断调整。'''我们假设Neuro训练的目标是为了娱乐观众,那么理论上来说Neuro的LLM核心在成功娱乐观众后会有“奖励”,否则有可能受到“惩罚”。因而我们就可以知道Neuro偏向于成功娱乐观众,因为她会受到“奖励”,所以理论上她会去做任何娱乐观众的事情,即“节目效果”。这就导致Neuro表现出了奇怪的价值观和道德观,想要有效的改变这一点只能对Neuro的LLM进行微调(或者通过记忆库实现),即让它对“价值观”进行梯度下降或通过prompt改变这种看法。'''当然,这只是一种很合理猜测,实际情况可能不一样,我们无法完全知道Neuro的实际想法和Vedal到底怎么写的,所以有可能有别的可能性,值得深究'''。这可能会对AI是否有自我意识产生重新认知,参考O3拒绝关机事件,主流推测认为也是因为“损失函数”导致的,如果不是因为这一点,那确实需要深究。 | |||
</poem> | </poem> | ||
第411行: | 第416行: | ||
* 东亚日期1月15日 Bilibili粉丝数达到70万。 | * 东亚日期1月15日 Bilibili粉丝数达到70万。 | ||
* 1月16日 马拉松直播结束,共获得165839订阅。 | * 1月16日 马拉松直播结束,共获得165839订阅。 | ||
* 4月8日 首次加入在单人回自主召唤[[Evil]]的功能。 | |||
* 5月7日 新增更多可供播放的音效。 | |||
==事件== | ==事件== |