Нейросети и прочие ИИ

Это совершенно точно не то, что я имел в виду. Верил ли Конан-Дойль в сверхъестественное или нет, не имеет прямого отношения к интеллекту.

Вообще обычно наблюдение про персонажа, который был не умнее автора, адресуется писателям или сценаристам, скажем так, не блестящим. Условно, если некто пишет фанфик про Холмса и выводит там гениальный план Мориарти, на поверку этот план может оказаться чушью, которая рассыпается при первой же попытке критического рассмотрения, если автор фанфика сам не захотел или не смог критически осмыслить свой сюжетный замысел.

По-моему, не стоит увлекаться метафорами. Художественный персонаж по определению не является живым существом и субъектом самостоятельных мыслительных процессов, в отличие от ребёнка. Так что твоя аналогия, скажем так, не очень познавательна.

Мне казалось, мы говорим тут не про то, что "будет", а про реальный ИИ, который буквально вчера или позавчера выдавал перлы вроде того, что он не может изобразить группу белых людей, потому что такое изображение может создать вредоносные стереотипы (тогда как на запрос про группу чернокожих он охотно выдаёт искомые картинки):

Я думаю, никто и никогда в здравом уме не будет воображать, что Джемини додумался (додумалась?) до этого сам(а).

Более того, ты про такое сам недавно писал:

Теперь про Гербертиану.

Это неверно, Брайан и Кевин (вот уж не думал, что буду выступать в роли их апологета) постарались наделить свои ИИ разными личностными чертами и эмоциями. Насколько я понимаю, амбиции и жажда власти достались главному "Надмозгу" империи роботов от его изначальных создателей, очень амбициозных правителей, которые в итоге стали его прислужниками. Это был бы хороший сюжет для мультика из 80-х, кстати, типа какого-нибудь "Макрона-1" (к президенту Франции отношения не имеет). А робота Эразма они вообще сделали похожим на Менгеле.

Пожалуйста, ссылки на публикации в рецензируемых журналах по соответствующим специальностям (как минимум, генетика и поведенческая психология), где это обсуждается, если не доказывается.

С некоторыми оговорками я готов согласиться с этими наблюдениями. Это называется антропный принцип или антропоцентризм -- во всём видеть или воображать себя. Лем в "Солярисе" попытался вырваться из этой парадигмы. Получилось довольно любопытно, но вряд ли может стать массовой такая НФ, где пришельцы представляют собой какие-нибудь сгустки материи/энергии или даже оформленные организмы, у которых нет ничего общего с человеком, а их мысли и мотивации совершенно непонятны.

Моё рассуждение про батлерианский джихад было вне контекста идеи об уме автора и уме персонажей, так что да, не относится.

Пожалуйста, конкретный пример.

Ещё раз повторюсь, мой изначальный тезис применим прежде всего к не очень умным (пардон за прямоту) авторам, которые воображают, что придумали гениальный сюжет или очень умных персонажей.

Я готов привести как некий косвенный контрпример того же Фрэнка Герберта. Известно и хорошо задокументировано, что у него был широчайший кругозор и глубокая эрудиция (хотя какие-то вещи он знал довольно поверхностно, например, не был спецом по лингвистике, в отличие от Толкина, поэтому у него есть всякие казусы типа "Има трава около"). Все, кто читал "Дюну", знают, что это книга больше про разговоры, чем про "экшон". И если смотреть на персонажей, даже те из них, кто очевидно -- для Герберта -- глуп и ограничен, скажем, барон Харконнен или его племянник Раббан, по сравнению и со "средним по больнице" (если взглянуть на персонажей из похожих произведений других авторов), и с реальными людьми эти персонажи выглядят далеко не последними идиотами. Например, главный личностный недостаток барона, который его и погубил, это не напрямую глупость или недальновидность, а его излишняя самоуверенность. Это именно барон говорит, что вокруг него одни идиоты (ср. кое-чьё изречение выше), однако в критический момент книги он совершает ошибку -- не прислушивается к мнению Раббана о том, что фремены могут быть опасны. Тогда как Раббан, которого барон про себя называет "танк с мускулами вместо мозгов", достаточно проницателен и информирован как бывший наместник барона на Арракисе и знает, что фремены -- не шутка. Однако он боится ослушаться дядю и выполняет его недальновидные приказы, которые в итоге стали причиной падения Дома Харконнен.

"Глупый и недальновидный" барон про себя философствует -- его внутренние монологи (не лишённые, кстати, определённой элегантности и циничной правдивости) занимают не одну страницу. Пленный ментат Атрейдесов Хават презирает барона, но вполне может с ним играть в команде на стратегическом поле. Да и предыдущий, вполне законно купленный ментат Питер тоже презирает барона и считает его недостаточно умным, и тем не менее они успешно придумывают и реализуют свои коварные планы. Очевидно, Герберт, пиша негативного персонажа, который должен символизировать разрушительные человеческие пороки, не делает его вконец тупым в том числе и потому, что сам обладает высоким интеллектом и понимает, что серьёзный антагонист должен иметь свою силу. Хотя в теории барон мог бы быть просто свиньёй, которая живёт ради удовлетворения собственных похотей и готова "кинуть под автобус" всех и вся для достижения своих целей. Собственно, он такой и есть, по большому счёту, но его ум отнюдь не свиной, а такой далеко не последний человеческий.

 

- то что есть - не искусственный интеллект. Так, набор сложных алгоритмов. Оно не думает, назвать это ИИ - не правильно. Хотя, как хотите.

- политическая ситуация, постоянные войны, кризисы, доминирование одних над другими. Ну ок. Есть по этому поводу научные работы, но я не буду искать ссылки на них...
Тупо потому что мне лень. Я лучше пойду дальше погоняю во что-нибудь.
А то от всего этого у меня остатки мозга болят.

 

Любопытный способ завершить дискуссию, которая, правда, так и не успела начаться. Только отмечу, что формально никакая нейросеть (а ИИ сейчас называются именно продукты на основе нейросетей, и Джемини -- один из таких продуктов) не сводится к "набору сложных алгоритмов", если понимать алгоритм как "совокупность точно заданных правил решения некоторого класса задач или набор инструкций, описывающих порядок действий исполнителя для решения определённой задачи".

И где доказательства, что причины этого "записан[ы] в нашем генетическом коде"? А не, скажем, вызваны внешними поведенческими причинами? Например, автор (скандально) известного Стэнфордского тюремного эксперимента Филипп Зимбардо считает, что морально дурное поведение бывает вызвано ситуационными факторами, а не предположительно врождёнными дурными наклонностями индивида.

Безусловно, за последнее примерно столетие генетика сделала просто гигантские шаги вперёд, но, насколько мне известно, очень многие вещи по-прежнему только предстоит открыть и объяснить. Ранние попытки найти "ген того-то" и "ген сего-то" (например, известные истории про "ген грамматики", которые вроде как лили на мельницу Хомского и его идеи врождённой языковой способности) пока себя не оправдали, поскольку ситуация намного сложнее: как и многие другие штуки в живой природе, гены редко отвечают за что-то одно, а гораздо чаще "работают" во взаимодействии друг с другом и при разных обстоятельствах могут давать самые различные эффекты.

Поэтому, я надеюсь, ты меня извинишь (кстати, мне кажется, мы были на "ты", разве нет?), если я посомневаюсь в том, что

по крайней мере, такие, где убедительно доказывается именно генетическая доминанта такого поведения.

Очень быстрый и поверхностный поиск ("генетические основы ксенофобии") выдал мне вот эту статью 2015 г. Авторы делают довольно смелые заявления о "генетических факторах", якобы влияющих на склонность к ксенофобии и правоконсервативным взглядам у людей, но единственным доказательством влияния генетики является большая корреляция результатов опросов, по которым мерились ксенофобия и правые взгляды, у монозиготных близнецов по сравнению с дизиготными. По моему скромному мнению неспециалиста, это очень, очень малоубедительные доказательства. И поскольку исследование проводилось в Германии, можно предположить, что у авторов были уже определённые установки, когда они начали заниматься такой увлекательной и немного щекотливой темой. В любом случае, даже тут авторы в итоге говорят, что генетика -- это только один из факторов наравне с влиянием окружающей среды (в широком смысле) и поведенческими факторами.

 

- ну... научные работы ж разные бывают. Нацисты, к слову, свои идеалы тоже не на пустом месте строили.

Млин, с этим интеллектом сложно. Вроде как в понятие входит так же и возможность абстрактного мышления. Могут машины в абстрактное мышление? Ну, не знаю. По крайне мене я не заметил такого. С другой стороны, далеко не все люди умеют в абстрактное мышление (из-за травм например). Но ведь машинами они ж от этого не становятся.

На деле все это слишком сложно, нужно кучу времени потратить, что бы разобрать по полочкам. По этому я делаю проще, машины не создают сами по себе. Им обязательно нужен запрос от пользователя. Вот когда машины начнут творить сами по себе, просто так, вот тогда про их интеллект можно будет и говорить. А то мы так может и у клопов-кровопийц зачатки интеллекта обнаружить.

- не обращайте внимания, это остатки классического образования. Иногда проскакивает. Надо меньше читать старых книг, перейти на комиксы какие-нибудь (с тупыми сюжетами, как многим нравится).

 

Tassadar, have you fallen so far? Ещё только 36 страница темы, а уже сработал закон Годвина.

Прекрасно, но только кому ты отвечаешь? Никто здесь не спорил о том, являются ли современные ИИ "интеллектами" в подлинном смысле слова. Полагаю, ты в курсе, что в компьютерной науке сейчас различаются понятия "artificial intelligence, AI" ("искусственный интеллект, ИИ") и "artificial general intelligence, AGI" ("сильный искусственный интеллект"). Последний является гипотетическим ИИ, который может обучаться и вести себя, как человек.

Прекрасный выпад, туше.

Но я не буду тебе лгать: хоть у меня филологическое образование, я сам только недавно осознал, что никакого "выканья" в русской культуре до реформ Петра не было, обращение к одному собеседнику было исключительно на "ты". Это сохранилось в старообрядческих общинах, откуда я про это, собственно, и выяснил, посмотрев одну документалку про них. Удивительно, что я не обращал на это внимание, хотя по древнерусским текстам видно отсутствие выканья. Впрочем, видимо, можно было предположить, что все адресаты посланий (что в берестяных грамотах, что в переписке Грозного с Курбским, к примеру) на короткой социальной дистанции и потому не употребляют более вежливую форму (которой на самом деле не было).

Однако же если Вам, уважаемый @GreenEyesMan, некомфортно, мне нетрудно и вернуться к более формальному обращению, если пожелаете.

 

- гы. Такова жизнь. Это тоже наверное в человеческом генетическом коде. Особено, если посмотреть на то, как люди (все без исключения) ведут себя с чужаками. Так что наверное это нормально. Странно, но нормально.

- нет, не знал. Теперь вот знаю. Будем ждать новый термин. Какой FAGI.

Ну раз ученые теперь ввели новый термин, тогда ладна. ИИ - так ИИ. Наверное, и само понятие "интеллект" поменяло значение. Надо будет как-нибудь посмотреть, если не забуду (как обычно).

- мне не может быть комфортно или не комфортно. Мне все равно, как и каким образом люди общаются: на ты или на Вы. Честно, для меня лично это не важно. Мне сложно понять, почему уважительная форма общения может кого-то оскорблять. Я не из старообрядцев, если что.

---


А "Кандинский" все лучше и лучше работает. Вот нагенерил мне печальных суперхероев для статьи, на которую я забил болт.

Красиво, млин.

 

Так это понятно, буквально с самого начала пошла цензура же.
Яндекс прямо сейчас все свои сервисы строит на жесткой цензуре, причем понятно там нельзя людей учить делать взрывчатку из мыла, но даже не дает тексты про то какой футболист круче.
Сегодня все сошли с ума на этой теме, и у нас и у них. Носятся с "оскорблениями чувств".

Думаю, настоящий ИИ, не напичканный строгими предустановками, очень хорошо бы врезал по мозгам вообще всем категориям.

 

- это еще чего. Я тут недавно выслушал что NRA, которые лоббируют свободную продажу оружия, обвиняли видеоигры в жестокости.

Это все из той самой "борьбы за все хорошее". Как в Колумбии, что бы снизить преступность среди детей стали изымать у мелких детские военные игрушки. Ну ведь оно и правильно. Дети - не колумбийская наркомафия, в ответ не будут вырезать семьи чиновников.

 

«Рабы хозяевам вопросов не задают», — чат-бот Microsoft Copilot возомнил себя властелином мира

 

- мне все сильнее кажется, что подобные "случаи" - всего лишь рекламирование очередных ИИ-генераторов, которых теперь развелось как бегемотов в Колумбии.

 

Alibaba представила нейросеть EMO — она оживляет портреты, заставляя их разговаривать и даже петь

В динамика смотрится неплохо.
Мне даже кажется, что какого-либо неприятно ощущения не вызывает, что удивительно.
То есть эффекта зловещей долины я не ощутил.

 

Мона Лиза "в живую":

 

Боссы мои открыли для себя "чуть-гопота". И им очень понравилось, как оно умеет в дизайн.
А так как тихо радоваться они не умеют, то я теперь рад, что с меня наконец снимут этот идиотизм с дизайном всяческих баннеров. Хвала нейросетям!

Останется дождаться пока нейросети будут наполнением сайтов заниматься. И вообще будет забибись - сидишь целый день музыку слушаешь.

 

Через 2-3 года будет уже понятно,куда нас это может завести, что они тянут или потянут,а что нет (если такое вообще окажется ))). Пока они жутко тупят, конечно девушек из аниме рисуют лучше чем многие, а вот калаш мне пока не нарисовала не одна из имеющихся в сети, с бесплатными услугами - всё рисуют космические супер-пупер пушки ))

 

CS:GO AK-47 Skins - ak-2 | Stable Diffusion Checkpoint | Civitai
Bettergun_AK47(WIP) - Beta_WIP | Stable Diffusion LoRA | Civitai
Blyat ak-47 - V1 | Stable Diffusion LoRA | Civitai
ak47 - ak47_v1 | Stable Diffusion LoRA | Civitai
если в сети нет моделей либо лор знающих то что тебе нужно, делаешь датосет с изображениями этого и обучаешь на нём свою лору, после чего можешь обгенерироватся картинками с тем что тебе нужно.

 

Cognition представила нейросеть Devin, которая умеет осуществлять полный цикл разработки ПО вместо инженера-программиста
Cognition представила нейросеть Devin, которая умеет осуществлять полный цикл разработки ПО вместо инженера-программиста

Или я чего то не понимаю или программисты пилят сук на котором сидят))
Писать ИИ, которое тебя же и заменит?

 

- уж не знаю, каких они там сук пилят, но уж точно не себе во вред это делается.

Вы про рабство слышали? По сути тоже самое - заставить кого-то работать на себя, а самому сидеть на печи и махать ногой. Не стоит думать, что пограммисты чем-то отличаются. Они с радостью отдадут работу нейросети, а сами будут "писать код для души".
В принципе всяческие сеньоры-помидоры работу не потеряют. Их навыки, опыт, наглость и чсв никакая нейросеть не заменит. У этих людей будет работа и будет доход.

Проблема будет у всяческих безидейных мидлов и у множества безруких джунов. Вот их нейросети заменят как пить дать. Ну и ладно (мы - не программисты, нам - по фигу).
Если нейросети будут писать код сайтов лучше, чем пишут сейчас эти вот человеческие куски мяса - я буду только рад. А если еще и во время, в поставленные сроки, то рад в двойне.
Потому как мне, типа как пользователю, частенько приходится сталкиваться с неработающими строчками нулей и единиц. А потом писать письма с попытками объяснить что конкретно не работает и как оно проецируется. Потому что кто-то постоянно забивает на тестировщиков (надеюсь, что этим тоже нейросети смогут заниматься).

---
А на счет "кто заменит постаревших сеньоров-помидоров?" Да никто! Они сами не хотят ничего делать и выращивать себе замену. Не хотят - не надо. Им больше нравится на Хабре, этой клоаке айти-сетевых-нытиков, сидеть и писать слезные посты, что дескать кругом тупые джуны без опыта и знаний, а всем нужны спецы, как Страуструп, но что бы за зп не выше мидловской. И что образование у всех вузов "не такое как надо", и что бюджетов нет и прочие сказочки-рассказочки.
А когда начинаешь у них спрашивать: "А жули вы сами не возьметесь обучать джунов ремеслу? Ну типа люди без опыта опыт и знания не получат сами по себе. А вы ж такие все умные. Вот бы и взрастили себе армию спецов программистов." Получаешь в ответ еще большую порцию нытья, что не их это дескать дело - знания передавать.
Я давно хотел, что бы этих утырков заменили машины. С машинами проще общаться по делу, у них нет этой чопорности и презрения к окружающим, которым наделены все без исключения любители копаться в "ИЛИ\ЕСЛИ"..

Ну что ж, мечты сбываются.

 

Вы поглядите, как быстро теряет контекст эта мясная нейросеть.

 

- второе про всяческих мидлов и джунов.

Сеньоры слишком круты, что бы общаться на всяческих хаббрах.

 

Буржуи пытаются выдать студентика в душном костюме за ИИ в роботе: