图源：MIT News。https://news.mit.edu/2024/large-language-models-use-surprisingly-simple-mechanism-retrieve-stored-knowledge-0325

导语

大型言语模子（LLMs）中的老诚与匡助性议题与议论社会科学细巧斟酌，它们共同探索了东谈主工智能在交融和生成东谈主类言语时的谈德和步履准则。现存基于代理的模子固然约略模拟个体步履过火相互作用，但它们在捕捉东谈主类复杂步履和不雅点酿成经过方面存在局限性。因此，如何增强这些LLM代理与东谈主类步履的一致性成为一个待贬责的问题。

本次分享，咱们邀请到普林斯顿大学议论机科学系博士生刘晨，探讨大型言语模子在面对老诚和助东谈主这两大对皆中枢贪图矛盾时的步履；咱们还邀请到威斯康星大学麦迪逊分校融会神经科学博士&议论机科学硕士Yun-Shiuan (Sean) Chuang，接头使用LLM代理准确模拟东谈主类社会不雅点动态的后劲和局限性。

本期念书会时辰为：6月15日20:00-22:00（周六），直播报名进口见后文。

分享一：

大言语模子如何应付老诚与助东谈主之间的矛盾？

该分享与念书会举座主题之间的斟酌：

大型言语模子（LLMs）中的老诚与匡助性议题与议论社会科学细巧斟酌，它们共同探索了东谈主工智能在交融和生成东谈主类言语时的谈德和步履准则。议论社会科学动作一门交叉学科，它掌握议论机科学、数据科学和社会科学的才略来分析社会互动和步履模式。LLMs的决议经过不错被量化和评估，为议论社会科学提供了实验想象和数据分析的新器用。LLMs中的老诚与匡助性不仅对东谈主工智能的谈德框架至关迫切，也为议论社会科学提供了新的视角和斟酌才略。

简介：

本次分享借助热枕学的中枢主意和实验范式，探讨了机器学习对皆中的一个迫切前沿话题。具体而言，咱们斟酌了大型言语模子在面对老诚和助东谈主这两大对皆中枢贪图矛盾时的步履。通过咱们的斟酌，咱们展示了热枕学表面和实验约略被严格而全面地应用于大型言语模子斟酌要津问题的斟酌，并在此经过中揭示了一些道理且有见的发现。

参考论文：

Liu, R., Sumers, T. R., Dasgupta, I., & Griffiths, T. L. (2024). How do large language models navigate conflicts between honesty and helpfulness?

大纲：

1. 大型言语模子（LLMs）中的老诚与匡助性

当今关于这些贪图有哪些才略？

它们在什么情况下以及为什么会发生突破？

2. 与格赖斯准则表面的斟酌

感性言语步履（RSA）

老诚动作质料准则（即信得过性）

匡助性动作斟酌性准则

老诚与匡助性之间的衡量

3. 实验范式

刘易斯信号博弈

4. 实验1截止：在固定环境中半灵通式建议的给出

模子隐含的对话价值不雅

强化学习的东谈主类偏好（RLHF）的影响

想维链的影响

5. 实验2：价值不雅突破时的顽固式二选一选拔

与实验1雷同

可控性

6. 实验3：在履行环境中价值不雅突破时

想维链的影响

可控性

GPT-4 turbo出东谈主猜测地发扬出访佛东谈主类的特征

7. 要点

波及到的要津学问主意：

大言语模子: Large Language Model

对皆 / 老诚和助东谈主: Alignment / Honesty & Helpfulness

热枕学实验: Psychology Experiments

对话价值不雅: Conversational Values

强化学习辅以东谈主类响应: RLHF

格莱斯准则: Gricean Maxims

主讲东谈主：

刘晨（Ryan Liu）是普林斯顿大学议论机科学系第一年博士生，由汤姆·格里菲斯（Tom Griffiths）和安德烈斯·蒙罗伊·赫尔南德斯（Andres Monroy Hernandez）诱骗。之前在卡内基梅隆大学完成本科和硕士学位。斟酌规模是东谈主工智能如何改变东谈主类的交流方式，以及如何更好地调动东谈主工智能与东谈主类的交流。

分享二：LLM群体能源学：社会模拟的新典范

该分享与念书会举座主题之间的斟酌：

社会模拟、基于代理的模子（ABMs）、大型言语模子（LLM）代理以及它们在不雅点动态中的应用，与议论社会科学细巧斟酌，共同组成了交融和预计社会步履的新才略论。议论社会科学利用议论模子和数据分析来探索社会结构、经过和步履，而社会模拟提供了一个实验平台，不错在此平台上测试不同的插手步调，以识别那些在社会系统中产生欲望后果的政策。现存基于代理的模子固然约略模拟个体步履过火相互作用，但它们在捕捉东谈主类复杂步履和不雅点酿成经过方面存在局限性。因此，如何增强这些LLM代理与东谈主类步履的一致性成为一个待贬责的问题。

简介：

一个模拟访佛东谈主类社会的系统治有庞杂的后劲，其应用鸿沟从想象有劝服力的无理信息矫正信息到策动得手的告白行为。在这次分享的斟酌格式中，咱们使用大型言语模子（LLM）代理来驱动一个在酬酢媒体上进行诡辩的东谈主工社会。此外，咱们冷落了一种才略来揣度这些LLM多代理系统的访佛东谈主性，并展示了受融会科学启发的政策，以增强这些LLM代理与东谈主类步履的一致性。总体而言，咱们确定了使用LLM代理准确模拟东谈主类社会不雅点动态的后劲和局限性。

参考论文：

（1）Chuang, Y.-S., Goyal, A., Harlalka, N., Suresh, S., Hawkins, R., Yang, S., Shah, D., Hu, J., & Rogers, T. T. (2023). Simulating opinion dynamics with networks of LLM-based agents.

（2）Chuang, Y.-S., Suresh, S., Harlalka, N., Goyal, A., Hawkins, R., Yang, S., Shah, D., Hu, J., & Rogers, T. T. (2023). The wisdom of partisan crowds: Comparing collective intelligence in humans and LLM-based agents.

（3）Beyond Demographics: Human-like LLM Agent Construction through Infusing Topic-Specific Opinions based on Belief Network

大纲

社会模拟：识别有用的插手步调

贪图

现存基于代理的模子的局限性

格式1：咱们能否确立基于东谈主类步履的不雅点动态的ABMs（代理模子）？

格式2：大型言语模子（LLM）代理能否模拟不雅点动态？

格式3：LLM代理的不雅点动态是否访佛东谈主类？

格式4：如何使LLM代理的不雅点更访佛东谈主类？

波及到的要津学问主意：

LLM代理：LLM Agent

多智能体系统：Multi-agent System

社会模拟：Social Simulation

东谈主类-东谈主工智能对皆：Human-AI Alignment

主讲东谈主：

Yun-Shiuan (Sean) Chuang当今是威斯康星大学麦迪逊分校攻读议论机科学硕士和融会与融会神经科学博士。我的斟酌重心是增刚劲型言语模子（LLMs）的东谈主类-东谈主工智能对皆，并创建访佛东谈主类的大言语模子代理。

嘉宾

此外，本季念书会发起东谈主之一，白雪纯子，将沿途参与接头，与两位主讲东谈主、与众人，探讨大言语模子与热枕学。

白雪纯子是普林斯顿大学热枕学系博士，同期隶属于群众与国外事务学院、融会科学格式以及统计与机器学习中心。她斟酌动态社会心智，即个体决议经过与社会风景在社会融会规模的相互作用。她现时的责任探索社会刻板印象的热枕学发祥。白雪纯子将于2024年7月加入芝加哥大学热枕学系担任助理辅导。

个东谈主主页：https://www.xuechunzibai.com/。

直播信息

2024年6月15日（周六）20:00 - 22:00

集智俱乐部 B 站账号直播，扫码可预约：

扫码预约本次直播

若需要不雅看视频回放，文末扫码付费插足可加入腾讯会议，可发问交流、加入群聊、获取视频回放及更多学习贵寓，成为议论社会科学社区种子用户，与700余名议论社会科学的一线科研责任者相通交流，共同激动议论社会科学社区的发展。

报名成为主讲东谈主

念书会成员均不错在念书会本事央求成为主讲东谈主。主讲东谈主动作念书会成员，均罢职骨子共创分享机制，不错得汇报名费退款，并分享本念书会产生的统统骨子资源。具体见系列念书会细则：

AI+Social Science念书会启动

集智俱乐部联接好意思国东北大学博士后斟酌员杨凯程、密歇根大学安娜堡分校博士候选东谈主裴嘉欣，宾夕法尼亚大学沃顿商学院东谈主力本钱分析斟酌组博士后斟酌员吴雨桐、行将入职芝加哥大学热枕学系的助理辅导白雪纯子，共同发起，从3月24日运转，每周日晚20:00-22:00，探究大言语模子、生成式AI对议论社会科学规模带来的新想想新价值。

细则请见 ：