По мере того как технологии устраняют барьеры в повседневной жизни, человеческое поведение трансформируется, однако общество и организации часто реагируют на эти изменения лишь постфактум, когда поведенческие сдвиги уже произошли.
За последние два года место, откуда зарождается человеческое любопытство, незаметно изменилось. Это произошло без громких презентаций, вечеринок или широкого обсуждения среди лидеров. Вместо этого многие люди, включая автора, начали задавать вопросы ИИ-помощникам еще до того, как они искали нужную информацию или консультировались с друзьями или бухгалтерами.
Поисковые системы десятилетиями приучали пользователей вводить запросы в строку поиска. Когда же эти системы начали предоставлять ответы, часто в виде маркированных списков, начальная точка любознательности сместилась.
Этот паттерн схож с тем, что наблюдался при появлении смартфонов. Люди не принимали коллективного решения отказаться от платы за международные звонки или необходимости носить с собой отдельные камеры, карты и газеты; технология просто продолжала устранять препятствия.
Со временем звонки превратились в данные, камеры стали телефонами, а карты и прогнозы погоды — приложениями. Автор отметил, что недавно смог создать приложение всего за 15 минут, поскольку другие способы не позволяли быстро получить необходимую информацию, и это решение показалось ему совершенно обыденным, чего он не мог представить в 2019 году.
Повторяясь, поведение менялось первично, а осознание того, что общество самоорганизовалось вокруг устройства в кармане, приходило гораздо позже. Это породило вопрос: что произойдет, если сам интерфейс исчезнет?
Рассматриваются сценарии, когда общественные собрания станут большими языковыми моделями (LLM), а следующий этап не будет основан на экране, а будет реализован через очки, голос или, возможно, нейрокомпьютерный интерфейс.
Недавно в этой области появился пример: компания Neuralink заявила о разработке метода имплантации электродных массивов в мозг без повреждения защитной мембраны. Это фактически упрощает хирургическую процедуру, которая ранее требовала серьезного медицинского обоснования.
На первый взгляд, эти события кажутся несвязанными, но в них проявляется четкая закономерность. Автор предполагает, что мы неправильно понимаем, как именно технологии изменяют общество. Мы склонны ждать революции, одного драматического момента, но вместо этого происходит постепенное устранение мелких препятствий, которые никто не считает достаточным поводом для реакции, пока старая норма не исчезнет бесследно.
Журналистика не начала конкурировать с LLM внезапно; скорее, годы были потрачены на оптимизацию под поисковые системы и адаптацию к понятным алгоритмам. Затем направление изменилось без запроса разрешения, и изменился и навык, необходимый для привлечения внимания.
Нейрокомпьютерные интерфейсы не станут обыденностью благодаря одному прорыву, подобному тому, что совершила Neuralink. Скорее всего, они станут обычными так же, как и большинство вещей — шаг за шагом, пока операция перестанет казаться экстраординарной, и мы начнем спорить о последствиях, а не о возможностях.
Автор пишет об этом не потому, что считает технологии опасными, а потому, что видел потенциал этих прорывов. Личный опыт потери способности ходить братом после автокатастрофы мотивирует его желать успеха нейрокомпьютерных интерфейсов, так как мать всегда надеялась на чудо.
Однако именно желание их успеха диктует необходимость сейчас заняться скучной, неброской работой: определением владельца данных, доступа к ним и правовой базы, пока решения остаются небольшими и тихими, а не крупными и срочными.
Эти опасения не гипотетичны. Исследователи уже изучают этические и социальные последствия нейрокомпьютерных интерфейсов, затрагивая вопросы согласия, конфиденциальности, когнитивной свободы и права собственности на нейронные данные.
Важно, что порядок изменений систем имеет значение. Инновации развиваются независимо от институционального осмысления; люди меняют свое поведение, а институты замечают это и начинают обсуждать уже свершившееся спустя годы.
Бартек Огоновски, один из основателей Levra, говорил о необходимости стать хранителями ИИ. Автор подчеркивает, что эта ответственность начинается не после выпуска технологии, а в момент ее тихого изменения окружающих систем — до судебных исков и общественного осуждения.
Теоретическая задержка подтверждается примерами: закон POPIA в Южной Африке не признает нейронные данные отдельной защищенной категорией. Поскольку закон был написан до появления современных нейрокомпьютерных интерфейсов, возникают пробелы в толковании, и данные могут подпадать под существующие защиты, такие как медицинская или биометрическая информация.
Автор считает, что нельзя ждать судебных разбирательств или утечек данных, чтобы решить, что сигнал, полученный напрямую из мозга, требует большей защиты, чем адрес электронной почты. Регулирование, которое следует за масштабом, означает принятие правил после того, как технология уже установила свои нормы.
Необходимо изменить подход: вместо ожидания повсеместного распространения технологий, следует задавать вопросы о влиянии на общество на ранних стадиях, когда правила легче формировать, чем переписывать.
Инновации не должны замедляться, но и управление не должно отставать на годы. Существует концепция «превентивного управления» (anticipatory governance), которую необходимо рассматривать как практическую необходимость, а не просто академическую идею.
Сейчас благоприятное время для участия в изменении систем и поведения людей, чтобы оказать положительное влияние на будущие общества, хотя мы редко голосуем о конечных границах, мы можем иметь в этом долю, вместо того чтобы однажды обнаружить, что они уже сдвинулись.
