Дмитрий Баюк

интеллектуальный взрыв”, когда умственные способности человека навсегда безнадежно отстанут.

интеллект — это способность достигать сложных целей

Современный искусственный интеллект имеет тенденцию к узкой специализации, причем каждая система может достигать только очень конкретных целей, — в отличие от интеллекта человека, чрезвычайно широкого

• Если развитие технологий искусственного интеллекта будет продолжаться, то задолго до того как AI достигнет человеческого уровня в решении всех задач, он успеет открыть нам новые увлекательные возможности и задать много новых вопросов в самых разных областях, связанных с инфекционными болезнями, законодательными системами, разоружением и созданием новых рабочих мест

очень часто причиной взлома оказывается элементарная человеческая доверчивость или неочевидная уязвимость недавно выпущенной программы

Требует ли профессия взаимодействия с людьми и использования социальных навыков?
Нужен ли в ней творческий подход и принятие нестандартных решений?
Предполагается ли работа в непредсказуемой обстановке?
Чем больше утвердительных ответов на подобные вопросы вы можете дать, тем лучше будет ваш выбор будущей карьеры.

Работа дает людям намного больше, чем просто деньги. Вольтер писал в 1759 году: «Работа отгоняет от нас три великих зла: скуку, порок и нужду»

Как писал Ганс Моравец в своей книге Mind Children: «Длинная жизнь становится довольно бессмысленным делом, если нам суждено провести ее, пялясь тупо на ультраразумные машины, когда те пытаются описать нам свои все более удивительные открытия с помощью того детского лепета, который мы только и способны понимать».

В вопросе о том, что считать жизнью, как известно, давно уже нет никакого согласия. Предлагается огромное количество альтернативных определений, и некоторые из них включают довольно жесткие ограничения: например, требуется наличие клеточной структуры, что, вероятно, исключит из числа живых и будущие мыслящие машины, и некоторые внеземные цивилизации. Так как мы не хотим ограничивать свои размышления о будущем жизни теми биологическими видами, с которыми мы уже знакомы, то давайте примем более широкое ее определение, чтобы оно включало и любой иной процесс, если только он обладает сложностью и способностью к самовоспроизведению. Что именно воспроизводится, не так уж важно (состоит из атомов), важна информация (состоит из бит), которая определяется взаимным расположением атомов друг относительно друга. Когда бактерия копирует свою ДНК, не возникает никаких новых атомов, но имевшиеся атомы выстраиваются в цепочку, точно повторяющую исходную, таким образом копируется только информация. Иными словами, мы можем считать живой любую самовоспроизводящуюся и способную обрабатывать информацию систему, собственная информация которой (ее «программное обеспечение», «софт») определяет и ее поведение, и ее строение («хард»).

Страх, что машины окажутся злонамеренными, — еще одна расхожая бессмыслица. Наше опасение вызывают их компетенции, а не злая воля.