Образование думера

Если вы последуете за мной в Twitter или прочтете этот блог, то заметите, что я перешел от общего оптимизма и энтузиазма к ИИ к крайнему беспокойству. И я подумала, что должна объяснить почему передумала. Каждый раздел этого поста посвящен какому-то аспекту ИИ, в котором мои взгляды изменились. Я начинаю с объяснения своих прежних убеждений, и почему я их держал, а затем объясняю, почему эти убеждения изменились. Экономика содержания была хорошей. В 1790 году мы обработали 99% рабочих мест, и в результате не массовая безработица. Мы более богаты, здоровы, образованны, у нас больше свободного времени и т.д. У меня была туманная и индуктивная идея, что пока я не могу предсказать, какие рабочие места будут существовать после AGI, у меня будет спрос на что-то. Более того, гораздо более высокие темпы экономического роста в мире после проведения АГИ означают, что ниша человека, хотя и мала в абсолютном выражении, может быть намного больше, чем экономика сегодняшнего дня. И это может быть правдой. Или это может показать недостаток воображения с моей стороны. Если АИ будет развиваться таким образом, что у нас сохраняющаяся взаимодополняемость между людьми и МА, тогда мы все еще сможем найти работу в будущем после АГИ. Но если АИ станет действительно общим, G в AGI и, кроме того, она намного умнее, быстрее и дешевле людей, тогда нам может нечего делать, кроме как жить на UBI. Когда люди говорят об UBI, они обычно беспокоятся о проблеме смысла в мире без работы. У меня никогда не было…