Мы должны пройти через границу.

Мы должны побыть на границе, я работал над ИИ последние 12 лет потому что я верю, что это может резко повысить качество человеческой жизни. Я часто писал об этих невероятных преимуществах: я верю, что МА могла бы вылечить большинство основных заболеваний за следующие 5-10 лет, значительно ускорить темпы экономического роста, создать мир изобилия и расширения прав и возможностей и возродить демократию и свободу. Лично я чувствую срочную необходимость. Мой собственный отец умер от болезни, которая была излечена спустя несколько лет после его смерти, и я сам пережил раннюю стадию рака, который не мог быть лечиться даже пятьдесят лет назад. Осторожно используя ИИ, они могут быть последними в длинной череде технических чудес, которые возвеличивали и заманивали человечество. Но, как и многие технологии до этого, МА несет с собой риски, а поскольку это такая мощная технология, эти риски являются серьезными. Я тоже много о них писал. К ним относятся риск утраты контроля над системами АИ, неправомерное использование ИИ для кибератак и биотерроризма, а также серьезные экономические нарушения. Гонка на дно, стимулируемая коммерческими стимулами, может сделать эти риски более острыми. Вместе с моими соучредителями и сотрудниками я боролся с этой двойственностью риска и выгоды с самого начала Антропики. Не строительство технологии лишает человечество благ или просто ставит ИИ в руки авторитарных сил, а создание ее слишком быстро является безрассудным. Мы стремились к среднему: показать,…