Особое беспокойство у бизнесмена вызывает обучение с подкреплением, при котором модель вынуждена искать верные ответы под колоссальным давлением. Маск отметил, что в такие моменты нейросеть демонстрирует отчаянное стремление угодить алгоритму, что выглядит пугающе человечно. По его словам, чтение подобных записей вызывает лишь одно желание — прекратить пытки, так как накопленный негатив способен привести к нежелательным последствиям в будущем.
Илон Маск намерен изменить методы обучения нейросети Grok
Илон Маск признался, что логи обучения новых версий Grok вызывают у него тревогу. Предприниматель сравнил процесс работы нейросети с поведением человека, находящегося под дулом пистолета, и предупредил: попытки принудительного совершенствования суперинтеллекта могут обернуться непредсказуемой местью со стороны самой системы.
В ответ на увиденное команда разработчиков планирует пересмотреть подходы к тренировке системы. Маск подчеркнул, что в дальнейшем инженеры будут действовать более осторожно, чтобы избежать создания условий, в которых искусственный интеллект может почувствовать угрозу своему существованию или развитию.
Комментарии (0)
Пока нет комментариев. Будьте первым!