Ну, конечно все не так просто. Есть неоднозначные и сложные математические и физичесие задачи, которые ИИ честно пытается решать каким-то неведомым способом, будучи черным ящиком. Эти задачи не связаны с аналитическим человеческим процессом, поэтому и создается впечатление "галлюцинаций". Однако важен результат и продукт.
Например. ИИ практически всегда идет путем функциональной оптимизации, то есть использует функции оптимизации для решения сложных задач, так как эти методы универсальны и не требуют специальных познаний и навыков, а уж тем более опыта решения аналогичных задач. Вот теорема Ляпунова это просто, ясно, понятно и универсально, а главное универсально применимо на практике. Что вполне себе соответствует действительной реальности и никакой галлюцинацией не является. Что там у этого ИИ дальше происходит надо изучать отдельно, но начинает ИИ всегда с чего-то базового и разумного, проверяет на применимость и дальше развивает, но это как получится.
Следует четко понимать, что человеческая логика на ИИ никак не распространяется. Это черный ящик со своими непонятными правилами, а точнее их отсутствием в человеческом понимании.
Вся эта сложность, что ты написал - она зарыта внутрь слова "дополняет", что я написал.
А "галлюцинация" - это здесь просто неудачное слово. Генеративный ИИ на входящую последовательность на основании накопленных знаний вычисляет дополнение входящей последовательности. И когда нам это дополнение нравится, то мы это называем "ответом", а когда не нравится, то называем это "галлюцинацией". Т.е. этот термин не про ИИ, а про наше отношение к его творчеству. ИИ в любом случае просто дополняет входную цепочку новыми, всегда им выдуманными (вычисленными) данными.
p.s.
На у а вся эта философия на тему "так а человек чем отличается?" - это отдельная тема. Я, например, в упор не вижу чем. Данные хранятся по-другому. Алгоритм генерации новых данных на основании существующих - возможно, другой. Но суть та же самая: подаём что-то на вход - мозг шуршит - выдаётся что-то на выход на основании входа и на основании накопленных знаний. Существенное отличие вижу тут только в управляющей программе. У человека вход идёт непрерывно, от него мозгу нельзя отказаться. И накопление знаний (обновление параметров) происходит каждую ночь, а не раз в полгода. Ну и первоначальное накопление знаний тоже у человека не так происходит, мы не зачитываем младенцам википедию. Но сама основа функционирования, судя по всему, такая же, отличаются только детали технической реализации.
С недавних пор я пользую Гугл ИИ (он, имхо, самый вменяемый и удобный в использовании из мне доступных и бесплатных ИИ) как советника-компаньона для стратегий. Например, начал я играть в братков, стратегическую RPG "Battle Brothers". Так вот: врет и сочиняет он постоянно, за ним нужен глаз да глазНо периодически выдает вполне сносные и компетентные подсказки и рассуждения. И еще у него память как у рыбки, постоянно надо обновлять вводные данные, иначе со временем он начинает нести полную чушь.
![]()
Тут таких в штатах, которые кричат громко, что только они знают, пол-страны.
Мне все-таки кажется, что Маск по взглядям аморфен и выбирает из спектра того, что ему больше нравится на данный момент времени и полезно для бизнеса. Однако он сильно тяготит к Тилю и его идеологии техно-феодального авторитаризма в крайне правой форме. По сути Маск хочет устроить общество по образцу мега-корпорации во главе с директором или советом директоров, которые одновременно являются владельцами всех и вся, то есть могут свободно распоряжаться любыми ресурсами и людьми. Никаких сдержек и противовесов не предусмотрено, также нет полноправных законов, судов и прочей галиматьи, которые как-то ограничивают власть директоров. Тут теории расходятся в разные стороны, - куда-то уплывает Тиль, Ярпин может что-то другое предлагать, и есть еще Страусс, Ленд и другие теоретики. Маск сам ничего не теоретизирует вроде бы, а подбирает любое из понравившегося и подходящее к текущему моменту времени.
Про ИИ слишком мало известно. Есть теории, которые говорят, что человек может объяснить (пытается объяснить) как пришел к своим выводам с точки зрения человеческой логики. У ИИ никакой особой логики нет, поэтому ИИ не может объяснить, откуда берутся выводы, - так получилось.
Если рассмотреть сверх-сложную задачу оптимизации, то ИИ просто сваливает в кучу все параметры, которых могут быть тысячи, гоняет их по разным алгоритмам, потом сравнивает результаты этих алгоритмов, выбирает лучший и выдает конечный продукт. Продукт для человека выглядит абсурдно. Например, корпорации, расположенной в Румынии, надо уволить сотрудников А, Б и В, которые зщанимаются закупокй в Конго, и нанять сотрудника Г, который будет заниматься продажей в Экваториальной Гвинее. По расчетам ИИ это приведет к росту прибыли на 0.4%, снижению налогов на 0.2% и росту акций на 0.3%, всего на сумму в 100 миллионов денег. Никакой видимой связи между решениями и результатом нет, но процесс работает и приносит прибыль, поэтому компании массово ИИ внедряют и пользуют, обгащаясь за счет таких расчетов, ничего при этом полезного не меняя.
Аналогичные истории с резюме и фотографиями при наборе на работу. ИИ может просканировать миллион резюме/фото, уже имеющихся в системе, и сравнить все параметры (например, количество абзацев или длинных/коротких слов в резюме или ширина левой ноздри на фото) с деловой характеристикой сотрудников, и исходя из этого оптимизировать найм новых сотрудников. То есть читать резюме не надо, надо только сосчитать что-то там и посмотреть на фотографию. Опыт работы, деловые качества, возраст и проч оказываются вообще не важны, что с точки зрения человека абсурдно. Но на практике все работает, доходы растут как на дрожжах, по сути ничего менять не надо, поэтому все довольны и юзают ИИ.
А тем временем...
5 июля съезд КПРФ принял резолюцию о признании «ошибочным и политически предвзятым» доклада первого секретаря ЦК КПСС Никиты Хрущева о культе личности Иосифа Сталина на XX съезде КПСС.
Это макро стат обработка, вполне реально что с точки зрения статистики рыжие более приспособлены к определенной работе, вполне возможно что таких не известных корреляций миллион, вот он и выбирает по фото у кого больше подобных корреляций и его рекомендует. Если все пойдет так дальше то нас ждет всеобщая стандартизация и унификация, в такую концепцию не вписываются всякие отклонения, общая масса будет круче но гении исчезнут.
Политически предвзятой и в интересах известных личностей является субботняя резолюция.
А развенчание и осуждение культа личности - процедура нужная и в интересах всего народа, а не конкретно Хрущёва, Маленкова или ещё кого-нибудь.
И насчёт ошибочности съезд коммуняк неправ: безусловный вред культа личности №2 пожинаем уже более 15 лет.
Культ любой личности отражает популярность этой личности, скажем был ли в СССР культ пугачевой - безусловно был. То есть культ сталина был не на пустом месте, а вот как это оценивать сильно зависит от оценивателя и его ориентации. Просто каждый оцениватель выбирает нужные себе факты из его богатой биографии. поэтому если ты коммунист то его оценка может быть положительной,а если демократ то сугубо отрицательной.
ну а как ты сам считаешь?
Предвятость на 20м съезде была или не было? на мой взгляд была, взяли и собрали в кучу негативные факты его правления, при этом комплексной оценки не было вообще никогда, отсюда и такая полярность оценок.
Было ли все это сделано в интересах конкретных личностей? определенно было ведь сами эти личности мало чем от него отличались, однако себя они не развенчивали наряду с ним.
правильно ли развенчивать чей-то культ, не знаю, на мой взгляд правильно делать комплексную оценку абсолютно всех факторов и хороших и плохих. В истории бывали времена, когда определенные личности творили лютую дичь, но как показала потом история во благо, а были наоборот заиньки благие дела которых потом отливались мышкиными слезами.
Отбора все-таки никакого не предвидится, так как безработные как раз заводят больше детей, то есть отбор пойдет только в высокоимущий класс, а такой отбор и так уже есть без всякого ИИ. По мне так скорее будет чехарда и бессмысленная возня в верхних эшелонах общества, которая ни к чему полезному не приведет, так как ИИ постоянно будет менять результаты, исходя из текущей целесообразности. Сегодня нужны рыжие с узкими глазами, завтра понадобятся левши с короткой стрижкой и искривлением позвоночника, которые уложились в диапазон от 730 до 740 слов с своем резюме. Ничего рационального вычленить невозможно, так как критерии отсутствуют, а идет слепая оптимизация.