Hard Посоветуйте видеокарту для работы с нейросетями

Для Stable Diffusion, прежде всего.

Сразу говорю, нужна не какая-то мощная и свежая видеокарта, а компромиссное и бюджетное решение среди Б\У, которое бы позволило хоть насколько-то "свободно" генерировать картинки на дому. Интересует, какой вариант был бы наиболее выгодный по деньгам? Пока что расчитываю на что-нибудь не дороже 10000 рублей. Пока думаю, возможно может стоит присмотреться к каким-нибудь "читерским" вариантам? Под "читерскими" имею в виду всякие "неигровые" видеокарты - типа тех, что предназначены для майнинга или для GPGPU. Вроде слышал, что у них цена на Б\У ниже, чем у "нормальных" относительно их мощности (та же вычислительная мощность за меньшие деньги). Но не уверен, на сколько это правда. Вроде бы это связано с тем, что народу все-таки больше интересны игры, а такие видеокарты изначально на них не расчитаны, нужны некоторые манипуляции (и возможно даже после них совместимость будет ниже, чем у "нормальных" видеокарт). Вот на Avito натыкался Nvidia P102-100, они вроде там продаются от 6 с небольшим тысяч. Нормальный вариант, или есть что-то повыгоднее?

На YouTube натыкался еще на такое:

Это Nvidia CMP 40HX, но правда у нее только 8 ГБ памяти, против 10 у P102-100, так что наверно P102-100 будет лучше.

Еще, думаю, 10 ГБ, по идее для SDXL достаточно, но вот относительно недавно выкатили уже Flux. Пока не пробовал, но наверно он все-таки должен быть лучше SDXL и наверно в ближайшем будущем стоит перейти на него. По крайней мере, после SDXL, Stable Diffusion 1.5 кажется уже не особо съедобным, возможно и с Flux будет подобная история. Но вот насчет того, будет ли хватать 10 ГБ для Flux уже не уверен.

На данный момент для работы с нейросетями использую онлайн-аренду рабочей станции. Но это очень неудобно, так как тарификация там по времени, а не по затраченным вычислительным ресурсам - даже если машина простаивает, то деньги все равно капают. А часто нужно бывает подупать над запросом и\или подкручиванием некоторых параметров. Конечно запрос(ы) лучше всего придумать перед арендой, чтобы не тратить время впустую, но часто бывает так, что придуманный запрос не работает как ожидалось и приходится его править по месту. Или например уже давно хотелось бы разобраться с ControlNet, но разбираться в условиях постоянной спешки крайне некомфортно, что просто опускаются руки.

К тому же, есть еще неудобство с хранением и копированием данных. Бесплатное место под хранение данных имеет ограниченный срок хранения, после чего данные могут быть удалены. Думал использовать FTP, чтобы копировать все нужные данные с арендованной машины на свой компьютер, а потом при необходимости копировать обратно. Но на практике почему-то скорость оказалась ниже, чем если то же самое скачивать напрямую с Civitai. Тоже неудобно, что через некоторое время приходится перекачивать все по новой. К тому же, на копирование данных тратится то же самое арендное время, что невыгодно.

Просадил на аренду уже 500 рублей, но не сказал, что сгенерировал много чего-либо стоящего. Мне кажется, если так дальше продолжать, то можно довольно быстро истратить сумму, которой бы хватило на покупку компромиссно-бюджетной Б\У видеокарты.

 

А там производительность в каких-то попугаях измеряется? О чем речь воообще? В майнинге вот были хеши/сек.



Все же есть. Как говорится, в правильно поставленном вопросе кроется ответ.

 

Stable Diffusion on Mining cards - P106-090

 

Ogr 2, так все-таки, получается выгодно? В той статье идет речь про P106-090 или P106-100, а что же все-таки насчет P102-100? Возможно и не обязательно P106-090, просто автору статьи попалась такая карта. Мне пока P102-100 кажется интересней, так как видел версии с 10 ГБ, против "всего" 6 ГБ у P106-090.

На Авито видел Nvidia P102-100 за 6 с небольшим тысяч рублей. Вроде бы даже на 10 ГБ (нужно уточнить). Как вы считаете, это нормальная для нее цена, или слишком низко?

Что-то не думаю, что безвентиляторный, скорее там нужна внешняя продувка. Я видел всякие Nvidia Tesla, они тоже без вентиляторов, но вот они точно расчитаны для установки в корпус, где за ними будут стоять вентиляторы.

 

это надо спрашивать у тех, кто этим барыжев.

Хз, наверное. это тебе решать. Вон на озоне p-106-100 вообще 2100р стоит: https://www.ozon.ru/product/palit-videokarta-videokarta-p-106-100-6-gb-ne5p106117j9-1061d-1878598828

--- добавлено 20 мар 2025, предыдущее сообщение размещено: 20 мар 2025 ---

отзыв оттуда:

--- добавлено 20 мар 2025 ---

Инструкция по подключению всего этого дела, со 2й видеокартой через райзер, для вывода через нее изображения: https://dapf.ru/forum/threads/igraem-na-majningovoj-karte-p106-100-v-2024m-godu.45518/

--- добавлено 20 мар 2025 ---

если верить этому: P106-100 vs P102-100 [в 2 бенчмарках], у P102-100 куда ядер в 2,5 раза больше - 3200, чем у P106-100 - 1280, и если как я предполагаю они одного поколения - 10хх, то и картинки должны генерироваться на P102-100 во столько же раз быстрее. а у P106-090 куда ядер вообще 768: P106-100 vs P106-090 [в 3 бенчмарках]

--- добавлено 20 мар 2025 ---

Если я правильно предполагаю, что P102-100 это обрезок GTX 1080 Ti, GP102-350-K1-A1: GeForce 10 series - Wikipedia И судя по этому, то на P102-100 можно будет и свои лоры делать:

 

Это по сути не нужно, так как играть на этой видеокарте не планируется.

Знаю, так как как раз нашел такие карты на Авито по запросу "GTX 1080 Ti", там они преподносились как аналог.

Как вы считаете, если куплю такую карту, не выкину деньги на ветер?

 

Есть ли у тебя нет материнки с 2 слотами под видеокарту, что учитывая твоё бюджетное железо маловероятно, и если у тебя нет видеовыхода на материнской плате с графическим ядром на процессоре, тебе всё равно придётся всем этим пирдолингом заниматься.
Плюс в любом случае, либо покупать новый блок питания который эту видеокарту вытянет, жрёт она немало, либо 2й старые бушные блок питания ват на 350 приколхаживать.

Если тебя не нае-ут и ты купишь рабочую видеокарту, если ты не смотря на все трудности не бросишь это всё дело и таки заведёшь, и если сработы нейросети на ней не возникнет никаких непреодолимых проблем, то, надо полагать не выкинешь.

 

Вообще, думаю под эту видеокарту нужно будет собирать новый компьютер. Поэтому появляются связанные с этим вопросы, которые уже не совсем относятся к выбору видеокарты, но создавать под это отдельную тему наверно будет лишним, так что спрошу здесь. Когда-то смотрел на YouTube видео, где автор задался целью собрать недорого компьютер, который бы эмулировал Nintendo Switch:

Там он выбрал процессор Intel Core i3 8100. А можно ли собрать из Б\У что-то сравнимое по цене с бюджетной сборкой на Core i3 8100, но на AM4, чтобы оно тоже примерно так же тянуло эмуляцию Nintendo Switch? Имеется в виду комплект процессор+материнская плата+оперативная память. Только нужен процессор со встройкой, которая бы тянула эмуляцию Nintendo Switch. Возможно из-за этого комплект получится чуть дороже, но нужно чтобы получился примерно похожий бюджет.

И еще, в том видео автор поставил 8 ГБ оперативной памяти. Это вполне понятно, так как сборка ориентирована на бюджетность. Но вот много ли потребляет Stable Diffusion оперативной памяти? Именно оперативной, а не видеопамяти. Нормально ли ему будет с 8 ГБ, или нужно все-таки 16? Или даже 16 маловато и желательно больше?

И это тоже.

Тоже такие идеи уже возникали.

 

Гуглишь ролики на ютубе, в которых эмулятор свича работает на тех или иных встройках, либо с самыми тяжелыми играми на этой платформе, либо с играми которые тебя на ней интересуют. и если на каких то встройках эти игры работают для тебя приемлемо, смотришь сколько процессоры с этими встройками стоят на бу рынке. Плюс смотришь сколько под эти процессоры стоят материнки с памятью. И получаешь ответ на Эти вопросы.