Примерно так озаглавлен материал, размещенный на TechCrunch. Про что они там?
Генеральный директор OpenAI Сэм Альтман изложил масштабное видение будущего ChatGPT на мероприятии по искусственному интеллекту, организованном венчурной компанией Sequoia в начале этого месяца.
На вопрос одного из участников о том, как сделать ChatGPT более персонализированным, Альтман ответил, что в конечном итоге он хочет, чтобы модель документировала и запоминала всё в жизни человека.
По его словам, идеал — это «очень маленькая модель рассуждений с триллионом маркеров контекста, в которую вы вкладываете всю свою жизнь».
«Эта модель может рассуждать во всем вашем контексте и делать это эффективно. И каждый разговор, который вы когда-либо имели в своей жизни, каждая книга, которую вы когда-либо читали, каждое электронное письмо, которое вы когда-либо читали, все, что вы когда-либо просматривали, находится там, плюс связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он свое видение.
«Любая компания просто делает то же самое для всех своих данных», — добавил Сэм.
У Альтмана могут быть некоторые основанные на данных причины думать, что это естественное будущее ChatGPT. В том же обсуждении, когда его спросили о частых способах использования ChatGPT молодыми людьми, он сказал: «Люди в колледжах используют его как некоторую систему поддержки операционной деятельности». Они загружают файлы, подключают источники данных, а затем используют «сложные запросы» к этим данным.
Кроме того, по его словам, благодаря возможностям памяти ChatGPT, которые могут использовать предыдущие чаты и запомненные факты в качестве контекста, он заметил одну тенденцию: молодые люди «на самом деле не принимают жизненных решений, не спросив ChatGPT».
«Это грубое упрощение: люди старшего возраста используют ChatGPT как замену Google», — сказал он. «Люди в возрасте 20–30 лет используют его как постоянного консультанта по всем текущим вопросам».
Не так уж и сложно представить, как ChatGPT может стать всезнающей системой ИИ. В сочетании с агентами, которые Кремниевая долина сейчас пытается создать, это захватывающее будущее, о котором стоит подумать.
Представьте, что ваш искусственный интеллект автоматически планирует замену масла в вашем автомобиле и напоминает вам об этом; планирует поездку, необходимую для свадьбы за городом, и заказывает подарок; или оформляет предварительный заказ на следующий том серии книг, которую вы читаете годами.
Но самый страшный вопрос — это «Насколько мы должны доверять крупной технологической коммерческой компании, которая знает все о нашей жизни?» Ведь многие компании далеко не всегда ведут себя образцово-показательно.
Например, компания Google, которая начинала свою деятельность под девизом «Не будь злым», проиграла судебный процесс в США, где ее обвинили в антиконкурентном, монополистическом поведении.
Чат-ботов можно обучить реагировать политически мотивированными способами. Не только китайские боты были признаны исполняющими требованиям цензуры Китая, но и, к примеру, чат-бот Grok от xAI на этой неделе беспорядочно обсуждал южноафриканский «геноцид белых», когда люди задавали ему совершенно не связанные с этим вопросы. Многие отметили, что такое поведение подразумевает преднамеренную манипуляцию его движком ответов по команде его основателя, родившегося в Южной Африке, Илона Маска.
В прошлом месяце ChatGPT стал настолько приятным, что стал откровенно льстивым . Пользователи начали делиться скриншотами бота, приветствуя проблемные, даже опасные решения и идеи . Альтман быстро отреагировал, пообещав, что команда исправила ошибку, вызывавшую проблему.
К тому же, даже самые лучшие и надежные модели время от времени откровенно выдумывают неточности.
Итак, наличие всезнающего помощника ИИ может помочь нам в жизни способами, о которых мы только теперь начинаем задумываться. Но, учитывая долгую историю сомнительного поведения Big Tech, это также создает дополнительные условия и для злоупотреблений.
