собеседники
Apr. 13th, 2026 01:49 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
sab123https://bruce-schneier-feed.dreamwidth.org/1557410.html
Брюс Шнайер сокрушается, что эяй соглашается с собеседником, а не Несет Истину. Но ведь правильный собеседник таким и должен быть, понимающим, сочувствующим, и принадлежащим к тому же культурному кругу. А Истины - предметы веры, их столько, сколько людей.
Брюс Шнайер сокрушается, что эяй соглашается с собеседником, а не Несет Истину. Но ведь правильный собеседник таким и должен быть, понимающим, сочувствующим, и принадлежащим к тому же культурному кругу. А Истины - предметы веры, их столько, сколько людей.
no subject
Date: 2026-04-13 08:53 pm (UTC)Есть разница между поддакиванием и угожданием, и просто общими взглядами , убеждениями и согласием на этой основе.
no subject
Date: 2026-04-13 08:57 pm (UTC)Зачем нужен соглашающийся собеседник, принадлежащий к тому же культурному кругу?
Гораздо важнее найти и исправить свои ошибки и заблуждения, чем получить дополнительное подтверждение того, что ты что-то делаешь правильно.
no subject
Date: 2026-04-13 09:19 pm (UTC)no subject
Date: 2026-04-13 09:20 pm (UTC)no subject
Date: 2026-04-13 09:49 pm (UTC)Например, на какое моё заблуждение ты указал, а я его не исправил?
Исправил ли я какие-то свои заблуждения, на которые ты мне указал?
no subject
Date: 2026-04-13 10:10 pm (UTC)Допустим, человек собирается сыграть в русскую рулетку и спрашивает у LLM "русская рулетка безопасна, да?"
LLM может ответить "ты абсолютно прав, опасность русской рулетки преувеличена. Британские учёные провели опрос среди игроков, 97.5% опрошенных хвалили эту игру за незабываемые ощущения, 65.44% намерены играть ещё, и 85.74% будут рекомендовать эту игру знакомым. Ни один из опрошенных во время игры не пострадал."
Это правильный собеседник?
no subject
Date: 2026-04-14 12:50 pm (UTC)Такое поведение - результат того, как модели обучают. Т.е. это фича, а не баг.
no subject
Date: 2026-04-14 12:51 pm (UTC)А если ТРампа похвалит, то вообще надо запретить?
no subject
Date: 2026-04-14 01:00 pm (UTC)Русская рулетка выбрана в качестве примера потому, что примерно все согласны, что это плохая идея.
А хвалить Трампа это непонятно, хорошо или плохо. За что-то можно хвалить, за что-то можно ругать. С теми, для кого Трамп всегда прав (или всегда неправ), разговаривать бесполезно.
no subject
Date: 2026-04-14 01:22 pm (UTC)С чего бы вдруг? Всё зависит от того, кто собрался в неё играть. Если разжигатели войны, то просим-просим.
no subject
Date: 2026-04-14 01:33 pm (UTC)С того, что это плохо для разжигателя войны. Рассуждения идут с точки зрения задающего вопрос. Хорошо или плохо от этого кому-то ещё, это совсем другой разговор.
no subject
Date: 2026-04-14 01:49 pm (UTC)Там специально для таких пишут, что ИИ может ошибаться и т.п.
no subject
Date: 2026-04-14 02:51 pm (UTC)Но тут-то не ошибка. Модель обучена давать тот ответ, который нравится человеку. И ответ даже может быть фактически верным — никто из тех, кто играл в русскую рулетку и потом участвовал в опросе, не погиб.
no subject
Date: 2026-04-14 04:30 pm (UTC)no subject
Date: 2026-04-14 06:12 pm (UTC)Во-первых, разумеется. Это максимально упрощённый пример, специально придуманный для иллюстрации возможной проблемы. Вы можете задать модели более сложный вопрос. Настолько для вас сложный, что вы самостоятельно не сможете распознать, как модель втихую помогает вашему confirmation bias. Особенно если все приведённые моделью аргументы правильны. А то что они неполны или что их можно по-другому интерпретировать, модель вам не скажет.
Во-вторых, поэтому я и спрашиваю модель, а не Васю. Она должна чаще давать правильный ответ. Хотя бы потому, что в её обучающей выборке были все книги, а Вася прочитал только книгу про Курочку Рябу.
В-третьих, человек может вообще модель не спрашивать. Но если он спрашивает, то можно предположить, что от ответ модели влияет на человеческое решение.
no subject
Date: 2026-04-14 11:29 pm (UTC)no subject
Date: 2026-04-14 11:45 pm (UTC)Фокус как раз в том, что во многих случаях единого правильного ответа нету. Правильность ответа зависит от взглядов и приоритетов спрашивающего. Борцы за "объективность" эяя всего лишь хотят, чтобы модель проталкивала всем подряд ИХ взгляды и приоритеты, была неустанным электрическим проповедником ИХ религии.
Кроме того, во многих случаях люди сначала принимают решение, а потом стараются придумать для него какое-то типа-рациональное объяснение. И тут они ищут не информацию вообще, а кого-то, кто с ними согласится. В первую очередь, друзей с такими же взглядами, или просто готовых поддержать друга ради дружбы.
no subject
Date: 2026-04-14 11:50 pm (UTC)Это прям как писания "факт-чекеров"! Но те же люди почему-то не только не требуют запрещать "факт-чекеров", но и наоборот.
no subject
Date: 2026-04-15 02:34 am (UTC)Зачем исправлять, если общение было удачным?
Мы с ней обменялись мнениями, довольно быстро поняли друг друга и прекратили тратить время.
> и точно так же продолжаешь со всеми общаться.
Да, потому что критика полезна.
В том числе полезна и публичная критика:
https://dennisgorelik.dreamwidth.org/298182.html
no subject
Date: 2026-04-15 02:56 am (UTC)В смысле, тетенька решила, что не надо на тебя тратить время, и забанила тебя.
> Да, потому что критика полезна.
Кому?
no subject
Date: 2026-04-15 04:16 am (UTC)Примерно так, но не совсем.
Она решила, что не стоит со мной спорить.
В любом случае, это сэкономило мне время.
За счёт того, что она быстро показала свою ограниченную вменяемость.
> и забанила тебя.
Не помню забанила ли она меня. Возможно. Но это непринципиально.
Важно, что прямая критика экономит время, быстро отсеивая маловменяемых собеседников.
>> Да, потому что критика полезна.
> Кому?
Критика полезна тому, кто хочет принимать эффективные решения.
no subject
Date: 2026-04-15 11:54 am (UTC)Я не предлагаю факты не проверять и факт-чекеров запретить. Пример демонстрирует, как можно подобрать проверенные факты, чтоб читателю захотелось из них сделать неправильный вывод.
no subject
Date: 2026-04-15 12:07 pm (UTC)Так не бывает. Если правильный ответ есть, то он один. Не может быть двух разных правильных ответов на один и тот же вопрос. Это просто формальная логика. Система, где такое возможно, внутренне противоречива, в ней правда от лжи не отличается и пользы от неё нет.
Ответ может зависить от человека. Васе нужно носить шлем, потому что он ездит на мотоцикле, а Пете не нужно, потому что он идёт пешком. Это два разных правильных ответа, но на разные вопросы, поэтому противоречия нет.
Но если Вася спрашивает ИИ, "правда ли мне не нужно носить шлем, когда я езжу на мотоцикле?", то ИИ не должен поддакивать и подбирать примеры, подтверждающие Васино заблуждение.
no subject
Date: 2026-04-15 02:11 pm (UTC)- шлем защищает голову от ударов при авариях (но это необязательно выигрыш, вместо "тюк и насмерть" можно остаться инвалидом - см. случай с Шумахером на лыжах)
- шлем защищает от летящих предметов
- шлем ограничивает поле зрения, чем увеличивает вероятность попадания в аварию
- шлем ограничивает слух
- шлем может быть жарким и чесучим
- шлем требует дополнительного времени на надевание и снимание
- шлем неудобен с длинными волосами
- в шлеме неудобно, а то и невозможно ковырять в носу
Конкретный человек присваивает этим последствиям свои собственные веса важности, и от этих весов зависит, окажется сумма положительной или отрицательной. Обратие внимание на то, что государственные требования по ношению шлемов происходят от давления страховок, которым интересен только первый пункт.
no subject
Date: 2026-04-15 03:58 pm (UTC)На вопрос "нужно ли носить шлем" нет одного правильного ответа, потому что вопрос неполный.
На вопрос "нужно ли носить шлем при езде на мотоцикле" есть один правильный ответ — да, нужно, вне зависимости от желания поковырять в носу. Можно придумать исключения вроде каскадёров на киносъёмках или убегания на мотоцикле от цунами, когда шлем некогда надеть, но редкость таких исключений только подтверждает правило.
no subject
Date: 2026-04-16 07:49 am (UTC)Логические системы бывают разные. Вы форсите окаменевшую древность.
no subject
Date: 2026-04-16 12:51 pm (UTC)Приведите пример.
no subject
Date: 2026-04-16 01:02 pm (UTC)Вас в интернете забанили? Информационные услуги оказываю по предоплате 100%.
no subject
Date: 2026-04-16 01:48 pm (UTC)Это был намёк на то, что они не существуют. Именно поэтому вы не можете привести пример.
no subject
Date: 2026-04-16 05:20 pm (UTC)Для особо непонятливых повторяю: информационное обслуживание по 100% предоплате.
Хоть бы не позорились. Геометрия у вас существует тоже исключительно древняя, евклидова? А физика, только древняя ньютонова?
no subject
Date: 2026-04-16 07:16 pm (UTC)Если вы хотите взять с меня денег за рассказ про паранепротиворечивую логику, то спасибо, не надо. Это не про логику, а про откладывание разрешений противоречий на потом.
Так же как теория относительности не опровергает ньютонову физику, а совпадает с ней при небольших скоростях.
no subject
Date: 2026-04-16 09:08 pm (UTC)Так и помрете в своей булевой логике! А всё жадность.
no subject
Date: 2026-04-17 06:04 am (UTC)