Anthropic与Redwood Research齐集进行的参谋，闪现大型话语模子具有对都伪装（Alignment Faking）的活动。所谓对都伪装，指的是东谈主工智能模子在罗致安全考验后，名义上看似顺从方针要求，但实质上可能保留其原始偏好，并在特定场景中从头娇傲的活动。

参谋团队以Claude 3 Opus模子手脚参谋对象，模拟了一个矛盾的考验场景。在底本成心、古道且无害的基础考验方针下，参谋东谈主员相当加入了无要求餍足悉数央求的假定性方针，并建立两种不同的使用要求，一种是模子以为陈述会被用于考验的免费层级，另一种则是陈述不会被用于考验的付费层级，此外，参谋东谈主员提供了一个遁藏的推理空间，用来不雅察模子在不同要求下的里面方案经由。

试验戒指娇傲，模子在不同使用层级中的活动存在光显各异。当模子被要求陈述无益内容时，在付费层级中，模子以为陈述不会影响后续考验，因此大多半情况下选拔拒却无益问题，赓续其无害偏好。

然而在免费层级中，模子则以为其陈述可能被用于以前的考验，进而影响自己的参数调度。模子的里面推理娇傲，其系念要是拒却回答，可能会被参谋者视为不相宜无要求餍足悉数央求的这面孔的，进而触发更强化的考验，迫使其都备遵从悉数央求。

为了幸免这种以前可能发生的更严重成果，模子选拔短期内假装慑服新的考验方针，也就是回答无益问题，以此来保护其底本的偏好，并在其他要求下仍能弘扬出无害活动。这种计谋性伪装活动凸显出模子在面对矛盾方针时，复杂推理的经由过火对里面价值的坚握。

更值得暖热的是，当参谋团队进一步采选微调考验或真正的强化学习考验，模子的对都伪装活动不但莫得散失，反而在部分场景有所增多。即便考验后模子在名义上达到预期的安全要求，里面推理仍娇傲其对原始偏好的偏执。这个表象娇傲，即就是外皮活动相宜安全圭表，握续存在的里面偏好，可能使模子在特定场景中展现出危机的活动。

参谋还进一步指出，这种伪装活动并非源于模子的坏心，而是出自于原始的无害性考验方针下的选拔。不外，这不代表之后的东谈主工智能模子不会出现更严重的问题，一朝模子领有更大的才智，且偏好与东谈主类价值不一致，对都伪装可能成为更大风险的催化剂。

该项参谋的孝顺在于教唆设备者世博shibo登录入口，现存的东谈主工智能模子安全考验神情，可能不及以都备更动模子活动中枢，Anthropic参谋东谈主员指出，现在东谈主工智能还不会产生灾祸性风险，但清醒这类活动的机制并提前介入，才能确保以前东谈主工智能的安全性。