Создатели Chat GPT признались, что сами не знают, как он работает

Именно об этом недавно заявил Сэм Альтман — глава OpenAI — выступая на конференции «ИИ во благо» в Женеве.

ИИ во благо?

Само мероприятие состоялось через несколько дней после анонса разработки нового детища компании — GPT-5. Нейросеть, по словам создателей, должна стать еще боле умной и дружелюбной, максимально приблизившись по уровню и логике к человеческому интеллекту. Правда, говоря так, разработчики явно поторопились.

Сравнивая нейросети с человеческим мозгом, Сэм Альтман подчеркнул, что, хотя программисты и способны «научить» ИИ-модели выполнять определенные действия, они не всегда понимаем их внутреннюю работу, так же как и, например, нейробиологи, не до конца понимающие процессы в человеческом мозге.

Что по безопасности?

Одним из ключевых вопросов, который возникает в связи с развитием таких технологий, является безопасность. Ведь если мы не до конца понимаем, как работают современные ИИ-модели, то как мы можем гарантировать их безопасность и надежность? Сэм Альтман, хотя и уклонился от прямого ответа на этот вопрос, выразил уверенность в том, что ИИ достаточно безопасен для дальнейшего развития. Остается лишь поверить ему на слово.

Однако, важно помнить, что интерпретируемость моделей ИИ — это ключевой аспект, который позволит нам лучше понимать принимаемые ими решения. Понимание того, как нейросети приходят к своим выводам, может сделать их применение более прозрачным и предсказуемым. Вопреки этому модели семейства GPT создают контент на основе закрытых данных, да еще и могут обучаться по не до конца понятным нам принципам и алгоритмам.

Таким образом Сэм Альтман прямо признался в том, что и без того беспокоило многих: даже сами создатели не знают, как работает ИИ, а значит не могут и ничего предсказывать или гарантировать.