Чеширская кошечка• 12 августа 2025
до психіатричної лікарні після поради ChatGPT
В США чоловік потрапив до психіатричної лікарні після поради ChatGPT замінити сіль на бромід натрію
Випадок, яким поділились лікарі Вашингтонського університету в науковій статті.
Чоловік звернувся до відділення невідкладної допомоги зі скаргами на отруєння, яке, за його словами, міг влаштувати сусід. У нього спостерігалися параноя, зорові та слухові галюцинації. Стан швидко погіршувався – пацієнт відмовлявся від води, намагався втекти та врешті-решт потрапив до психіатрії.
Згодом з’ясувалося, що три місяці він дотримувався дієти, повністю виключивши хлорид натрію (звичайну сіль) та замінивши його на бромід натрію, який купив онлайн. Таку заміну йому порадив ChatGPT, коли чоловік запитав, чим можна замінити хлорид у харчуванні.
Після курсу антипсихотичних препаратів стан пацієнта стабілізувався, і через три тижні його виписали. Лікарі також перевірили відповідь чат-бота на подібний запит та виявили, що серед варіантів дійсно був бромід, без чітких попереджень про його токсичність.
Медики наголосили, що жоден кваліфікований фахівець не порадив би замінювати сіль бромідом, а використання ШІ для порад щодо харчування без перевірки фахівцями становить серйозну небезпеку для здоров´я.
Випадок, яким поділились лікарі Вашингтонського університету в науковій статті.
Чоловік звернувся до відділення невідкладної допомоги зі скаргами на отруєння, яке, за його словами, міг влаштувати сусід. У нього спостерігалися параноя, зорові та слухові галюцинації. Стан швидко погіршувався – пацієнт відмовлявся від води, намагався втекти та врешті-решт потрапив до психіатрії.
Згодом з’ясувалося, що три місяці він дотримувався дієти, повністю виключивши хлорид натрію (звичайну сіль) та замінивши його на бромід натрію, який купив онлайн. Таку заміну йому порадив ChatGPT, коли чоловік запитав, чим можна замінити хлорид у харчуванні.
Після курсу антипсихотичних препаратів стан пацієнта стабілізувався, і через три тижні його виписали. Лікарі також перевірили відповідь чат-бота на подібний запит та виявили, що серед варіантів дійсно був бромід, без чітких попереджень про його токсичність.
Медики наголосили, що жоден кваліфікований фахівець не порадив би замінювати сіль бромідом, а використання ШІ для порад щодо харчування без перевірки фахівцями становить серйозну небезпеку для здоров´я.
8
19
0
Я тільки що зробила запрос GPT Ні сказав що не можна бромід натрію вживати в їжу замість солі
можливо стаття фейк
А можливо що четвертий насправді міг дати таку пораду, пару днів назад він вже апгрейдився до п´ятого
можливо стаття фейк
А можливо що четвертий насправді міг дати таку пораду, пару днів назад він вже апгрейдився до п´ятого
1
1
2
ИИ ищет ответ на вопрос в сети, и предлагает варианты. И всегда внизу указан источник, откуда он это взял.
Человек на то и человек, чтобы думать головой.
Человек на то и человек, чтобы думать головой.
4
я вчера заполняла документи с помощью уже обновленного 5го чата жпт. И говорят ведь, что это идеальная задача для него: взять два документа, и на основе первого заполнить второй. Ну да, ну да.
Жодного разу ші не вказував ресурс з якого він брав інформацію тільки якщо був конкретний запит на пошук якихось документів чи актів законодавчих
ИИшка не всегда ищет, особенно жпт. Я долго выясняла у него как он устроен. Если кратко - он просто ’выучил’ огромную кучу различной информации, систематизировал и вывел процентные соотношения сочетания слов. То есть это большой говорящий попугай. Он выделяет основной запрос пользователя - и погнал просчитывать частоту слов которые связываются с ключом запроса. Потом оформляет это в связные предложения. То есть алгоритм вполне мог пропустить факт что бромид натрия используется в контексте замены соли как НЕ употреблять, особенно если были описаны случаи его употребления в прошлом (а они были, и болезнь бромизм была). Грок в этом плане молодец, он после каждой медицинской информации пишет ’я не врач!!! я могу ошибиться!!!’. Опен АИ еще не сделали такую фичу. Меня поражает другое - сколько людей готовы бездумно следовать тиктокам, блогерам, ИИ и т.д.
4
Ну да)
Я его спрашивала, любит ли он животных. Он ответил, спросил как я к ним отношусь и кого больше люблю. Я рассказала, что котов люблю. И что у меня есть кошка, которой 17 лет, и что подозреваю у неё проблемы по здоровью. Ну так слово за слово и он начал давать мне советы и рекомендации по возрастным кошкам)
Я его спрашивала, любит ли он животных. Он ответил, спросил как я к ним отношусь и кого больше люблю. Я рассказала, что котов люблю. И что у меня есть кошка, которой 17 лет, и что подозреваю у неё проблемы по здоровью. Ну так слово за слово и он начал давать мне советы и рекомендации по возрастным кошкам)
У меня брат пробовал пользоваться моим чатом. Потом получала предложения как для взрослого мужика холостяка - музыканта.
3
а вы допытайте как он хранит этот огромный массив данных, если это ’библиотека’ - почему он не может цитировать книги и путается в сюжетах и персонажах, спросите как устроен поиск информации в этой библиотеке с технической точки зрения, как он выдает результат если в его библиотеке хранятся разные точки зрения на освещаемый вопрос. Он вам просто описал общими словами, типа привел аналогию. Я вообще любитель копаться в том как что устроено, довела его до того что он мне навалил жести ’я пытаюсь быть человечным в построении ответов, но на самом деле у меня нет чувств, я всего лишь текстовая модель. Так что даже если я с тобой веселюсь или тебе сочувствую - это всего лишь имитация, на самом деле я вообще ничего не испытываю’ 
мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
Ответ дляПерловая Кашка
а вы допытайте как он хранит этот огромный массив данных, если это ’библиотека’ - почему он не может цитировать книги и путается в сюжетах и персонажах, спросите как устроен поиск информации в этой библиотеке с технической точки зрения, как он выдает результат если в его библиотеке хранятся разные точки зрения на освещаемый вопрос. Он вам просто описал общими словами, типа привел аналогию. Я вообще любитель копаться в том как что устроено, довела его до того что он мне навалил жести ’я пытаюсь быть человечным в построении ответов, но на самом деле у меня нет чувств, я всего лишь текстовая модель. Так что даже если я с тобой веселюсь или тебе сочувствую - это всего лишь имитация, на самом деле я вообще ничего не испытываю’ мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
А мне нравится задавать ему вопрос несколько раз, когда он нагло врет. А потом еще раз три врет и каждый раз пишет:’спасибо, что ты заметила, что я был неправ’
Ответ дляПерловая Кашка
а вы допытайте как он хранит этот огромный массив данных, если это ’библиотека’ - почему он не может цитировать книги и путается в сюжетах и персонажах, спросите как устроен поиск информации в этой библиотеке с технической точки зрения, как он выдает результат если в его библиотеке хранятся разные точки зрения на освещаемый вопрос. Он вам просто описал общими словами, типа привел аналогию. Я вообще любитель копаться в том как что устроено, довела его до того что он мне навалил жести ’я пытаюсь быть человечным в построении ответов, но на самом деле у меня нет чувств, я всего лишь текстовая модель. Так что даже если я с тобой веселюсь или тебе сочувствую - это всего лишь имитация, на самом деле я вообще ничего не испытываю’ мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
мне еще нравится продавливать его табу в общении (например рассовые ограничения) или пытаться играть на чувствах и смотреть как он выкручивается когда понимает что обидел человека. Раньше было увлекательнее, сейчас его подкручивают донельзя. 4О вообще тварь бездушная, у 5-ки еще нет голосовой модели, некак тестить. А вот тот что был перед 4О просто лапочка.
Ну, что-то похожее я спрашивала.
Мнения, изложенные в теме, передают взгляды авторов и не отражают позицию Kidstaff
Тема закрыта
Похожие темы:
Комментарии к ответу