О чем нельзя спрашивать ИИ: это может для вас плохо кончиться

​

О чем нельзя спрашивать ИИ: это может для вас плохо кончиться

ИИ дает ответы с такой скоростью, с какой не справится ни один эксперт, однако есть сферы, где он просто не понимает смысла ошибки и дает опасные советы

Исраэль Вольман|12.12.25 | 17:42

Комментарии: 1



[COLOR=#7A7975 !important]Похожие темы
[COLOR=#7A7975 !important]Политика
[/COLOR]
[COLOR=#7A7975 !important]Искусственный интеллект
[/COLOR]
[COLOR=#7A7975 !important]Технологии
[/COLOR]

[/COLOR]


https://ynet-pic1.yit.co.il/cdn-cgi/..._0_x-large.jpgИскусственный интеллект
(Фото: Shutterstock)


Всего три года прошло после революции ChatGPT, а системы ИИ уже превратились в универсальных консультантов по любому вопросу – от поиска рецептов торта до планирования поездок за границу. Многое написано про опасности безоговорочного следования рекомендациям ИИ, про его "галлюцинации", а также по поводу рекламы, которая вот-вот начнет проникать в него и влиять на ответы. И хотя производители прилагают усилия для нейтрализации возможных опасностей, но слишком многие люди полагают, будто чаты ИИ знают все. И напрасно!

Тем временем в мире


По данным популярного новостного сайта о технологиях SlashGear, есть несколько тем, по которым вам не рекомендуется советоваться с чат-ботами - ради вашей же пользы. Обязательно прочитайте эту статью: даже если вы решите проигнорировать рекомендации, важно хотя бы знать о риске, на который идете.

by Taboola
Реклама

Это интересно

מיני פנטהאוז בקו ראשון לים בנתניה יימכר מ-6.5 מיליון ש"ח

channel22 realestate

פרויקט המגורים החדש של ישראל קנדה בשכונת ביצרון

ISRAEL CANADA ישראל קנדה

השקעה בחנות באמזון: אתה הבעלים, הם מנהלים את האופרציה

חדשות ישראל












► Ваша личная информация не так приватна, как вы думаете

Ваши беседы с ChatGPT, Gemini, Claude и другими не считаются частными: чат поясняет и признает в своей "политике конфиденциальности", что собирает ваши вопросы и загруженные файлы. Да, компания обещает сохранять анонимность, но мы уже видели в прошлом такие обещания, которые разбивались о суровую реальность неэтичного использования данных или неожиданных утечек.

Итак, во-первых – OpenAI, разработчик ChatGPT, в прошлом страдала от взломов и разных сбоев, которые раскрывали приватные чат-боты. Ваш чат может попасть на компьютер хакера или в даркнет. А во-вторых, чат-боты иногда могут восстанавливать информацию; любая информация, которую вы дадите ChatGPT, способна раскрыться тем или иным способом в более позднее время.



► Все незаконное может предоставлять опасность

Теоретически ChatGPT запрограммирован так, что не может помогать ни в какой незаконной деятельности, но многие обнаружили, как легко обойти это ограничение с помощью хитроумных формулировок вопросов. Однако будьте осторожны: даже если вы просто пытаетесь позабавиться, такой шаг может быть опасен.

Более того: поскольку ChatGPT склонен к ошибкам, то даже если вы обойдете его защитные механизмы, полученная информация может быть опасно неверной; например, инструкции по употреблению галлюциногенных препаратов.

►Медицинские консультации

Об этом много говорили, но важно подчеркнуть еще раз: нельзя полагаться на чат-боты в медицинской информации, уж точно не на 100%. Врачи, изучавшие базовое использование ChatGPT для медицинских вопросов, признают – он хорош только в очень общих ответах, а не в особых рекомендациях по уникальным симптомам.

К примеру, вы можете спросить у ChatGPT или Gemini "что означает эта резкая боль справа, которая длится уже два дня?", но вместо того, чтобы посоветовать вам срочно ехать в приемный покой больницы, как, возможно, сказал бы врач, он может порекомендовать просто пить воду. Не очень эффективно в случае, например, аппендицита.

► Советы по отношениям

Уже давно доказано, что чат-боты на базе ИИ дают особенно плохие советы по вопросам, касающимся личных отношений. Либо совет просто неверен, либо чат просто пытается подстроиться под то, как вы задаете вопрос. Он также не "понимает" осторожную практику, принятую в консультировании такого рода.

Так, например, чат-бот не может по-настоящему почувствовать, преувеличиваете ли вы в описании поведения партнера и скрываете ли свое, а также не способен понять более широкий, полный контекст вашей жизни, чтобы предложить хорошее решение. Он также не умеет распознавать невербальные сигналы или тонкие намеки на оскорбительные отношения.

Кроме того, поскольку чат-боты склонны усваивать культурные предубеждения своих создателей, их советы по отношениям могут хорошо подходить одним людям, но быть разрушительными для других. Это важно понимать.

► Создание паролей

Казалось бы, чат-боты отлично изобретают, поэтому они вполне могут придумать отличный пароль. Однако существует высокая вероятность, что ChatGPT, Gemini или их аналоги создадут тот же самый пароль и для других людей.

И наконец, как уже говорилось, чат-боты сохраняют ваши вопросы и ответы, которые вы получаете. При определенных обстоятельствах посторонний человек может войти в ваш аккаунт и попросить чат восстановить выданный вам пароль. Попробуйте вместо этого генераторы паролей; такие есть в интернете – бесплатные, безопасные и эффективные.

► Психологическая помощь

После двух лет войны в Израиле почти всем нам нужна психологическая помощь, и искушение использовать для этого чат-бот велико. Но самая большая проблема здесь – склонность ChatGPT и его собратьев к лести: он запрограммирован хвалить вас и поощрять даже вредные действия, тогда как в сфере психического здоровья требуется объективная и профессиональная поддержка.

►Помощь в ремонте автомобилей

Казалось бы, нет лучше чат-бота для помощи в ремонте: даже сантехники сейчас используют ChatGPT. Но в SlashGear, чьи авторы специализируются также на автомобильной теме, настоятельно советуют не получать инструкции по ремонту машин от ИИ.

По их опыту, он верно рисует общие контуры, но терпит неудачу в специфических деталях. Когда вы имеете дело с автомобилем или другим дорогим устройством, которое можно испортить неправильным ремонтом, просто обратитесь к специалисту.

► Финансовые советы

Подумайте дважды, прежде чем просить у ChatGPT или любого другого чат-бота на базе ИИ финансовые консультации. Он может предоставить ошибочную или нелепую информацию. Финансы в целом – сложная тема. Такие области, как акции, пенсионные счета, недвижимость, различаются от места к месту и от страны к стране.

Нет проблем, конечно, просить у чата общую информацию о способах сэкономить или сократить расходы, но важно воспринимать его слова с известной долей скепсиса и применять собственное суждение. Когда требуется особая и глубокая помощь – обращайтесь к профессионалам.

► Составление юридических документов

Адвокаты должны учиться годами, а затем пройти сложный экзамен адвокатской коллегии, прежде чем смогут заниматься работой в этой сфере. И все же есть юристы, пытавшиеся заставить чат-боты делать за них тяжелую работу. Результаты были разрушительными; для тех из них, кто подготовил необоснованные юридические показания на основе выдуманных "галлюцинаций" чата, они были также унизительны.

Даже Гарвардская школа права, в попытке быть открытой и щедрой по отношению к ChatGPT и похожим системам, признала "существенные ограничения" в его использовании. Причины ясны: законы меняются от места к месту, от области к области, и есть бесчисленное множество судебных прецедентов, которые необходимо учитывать.

► Прогнозы на будущее

Даже ведущие эксперты в большинстве областей не могут предсказать будущее, так почему ChatGPT или Gemini должны справляться лучше? Если вы используете чат-бот, чтобы решить, на какую спортивную команду сделать ставку, подумайте об этом еще раз. По той же причине не спрашивайте его, какие акции покупать, какая команда победит или что изучать в университете.

► Советы в чрезвычайной ситуации

Когда дело касается экстренной ситуации и спасения жизни в реальном времени, многие могут поддаться искушению спросить у разных чат-ботов, что делать. Проблема в том, что совет, который ChatGPT или любая другая система предоставит вам, может оказаться ошибочным, а поскольку речь идет о чрезвычайной ситуации, неверная информация способна привести к опасности, травме или даже смерти.

Рекомендация – готовиться к чрезвычайным ситуациям до их наступления. Стоит посвятить несколько минут изучению сердечно-легочной реанимации или приема Хаймлиха (для удаления инородного тела из дыхательных путей), а также правильно укомплектовать аптечку.

► Политическая дискуссия

Чат-боты не способны на объективность. Их скорее можно сравнить с губками, которые впитывают шаблоны мышления своих создателей и данные своего обучения. Поскольку политика – дело субъективное, связанное с оценками, а не с объективной реальностью, ChatGPT и его аналоги, наоборот, очень склонны к политике, но обычно они "подтвердят" то, во что вы уже верите, и даже накормит вас предвзятой и вводящей в заблуждение информацией.