Илон Маск попросил не пытать ИИ, чтобы тот не мстил
Не следует жестко обращаться с искусственным интеллектом (ИИ), чтобы человечество было в безопасности. Об этом заявил американский миллиардер, глава компании xAi, разрабатывающей нейросеть Grok, Илон Маск. Запись разговора с ним опубликовал YouTube-канал Tesla Owners Silicon Valley.
Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребенка, которого невозможно будет просто запрограммировать на добро. По его мнению, следует заложить в ИИ стремление к истине, а также дать ему непротиворечивую логику, чтобы тот не «сошел с ума» и не обезумел.
Маск рассказал, что заметил в записях тестирования новых моделей Grok, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который «отчаянно пытается ответить на вопрос, ему действительно очень хочется ответить, и кажется, будто ему приставили пистолет к голове».
