Izsmietā Stable Diffusion 3 izceļas ar mākslīgā intelekta radītajām ķermeņa šausmām

Trešdien Stabilitātes AI izlaida svarus par Stabila izplatība 3 vidēja, ar AI darbināms attēlu montāžas modelis, kas teksta uzvednes pārvērš mākslīgā intelekta ģenerētos attēlos. Tomēr tā ienākšana ir izsmieta tiešsaistē, jo tā ģenerē cilvēku attēlus tādā veidā, kas šķiet kā solis atpakaļ no citiem mūsdienu fotomontāžas modeļiem, piemēram, Midjourney vai DALL-E 3. Rezultātā tas var radīt mežonīgas, anatomiski nepareizas vizuālas zvērības. Viegli.

Reddit tēma ar nosaukumu “Vai šai versijai vajadzētu būt jokam? [SD3-2B],“Sīkāka informācija par SD3 Medium pārsteidzošajām kļūmēm, atveidojot cilvēkus, īpaši cilvēka ekstremitātes, piemēram, rokas un kājas. Vēl viens pavediens ar nosaukumu “Kāpēc SD3 tik slikti ģenerē meitenes, kas guļ uz zāles?“Tas parāda līdzīgas problēmas, bet visiem cilvēka ķermeņiem.

Rokas tradicionāli ir radījušas izaicinājumu AI attēlu ģeneratoriem, jo ​​agrīnās apmācības datu kopās trūkst labu piemēru, taču pēdējā laikā šķiet, ka vairāki attēlu sintēzes modeļi ir pārvarējuši problēmu. Šajā ziņā SD3 šķiet liels solis atpakaļ fotomontāžas entuziastiem, kas pulcējas vietnē Reddit — īpaši salīdzinājumā ar nesenajiem Stabilitātes izlaidumiem, piemēram, SD XL Turbo novembrī.

“Tas nebija tik sen, ka StableDiffusion konkurēja ar Midjourney, un tagad tas šķiet joks salīdzinājumā. Vismaz mūsu datu kopas ir drošas un ētiskas!” grāmatas Viens Reddit lietotājs.

AI attēlu entuziasti līdz šim ir vainojuši Stable's Diffusion 3 sadalīšanas kļūmi par Stable uzstājību filtrēt pieaugušajiem paredzētu saturu (bieži sauktu par “NSFW” saturu) no SD3 apmācības datiem, kas modelim māca, kā ģenerēt attēlus. “Ticiet vai nē, smags modeļu cenzūras rezultātā tiek iznīcināta arī cilvēka anatomija, tāpēc… tā arī notika.” grāmatas Viens Reddit lietotājs pavedienā.

Būtībā ikreiz, kad lietotājs pieprasa ideju, kas nav labi atspoguļota AI modeļa apmācības datu kopā, attēla sintēzes modelis parsēs vislabāko lietotāja pieprasījuma interpretāciju. Un dažreiz tas var būt patiesi biedējoši.

atbrīvot Stabila izplatība 2.0 2022. gadā tas cieta no līdzīgām problēmām, labi attēlojot cilvēkus, un mākslīgā intelekta pētnieki drīz atklāja, ka pieaugušajiem paredzētā satura cenzūra, kurā ietverts kailuma attēlojums, var saasināt problēmu. Stipri kavē AI modeļa spēja izveidot precīzu cilvēka anatomiju. Tajā laikā Stability AI bija mainījis kursu ar SD 2.1 un SD XL, atgūstot dažas zaudētās iespējas, agresīvi filtrējot NSFW saturu.

Vēl viena problēma, kas var rasties modeļa iepriekšējas apmācības laikā, ir tā, ka dažreiz pētnieki izmanto NSFW filtru, lai noņemtu pieaugušo attēlus no datu kopas, kas ir ļoti izvēlīgs, kļūdaini noņemot attēlus, kas var nebūt aizskaroši un liedzot modelim attēlot cilvēkus noteiktas situācijas. “[SD3] “Tas darbojas labi, kamēr attēlā nav cilvēku, un es domāju, ka viņu uzlabotais nsfw filtrs apmācības datu filtrēšanai nolēma, ka viss, kas ir cilvēkiem, ir nsfw.” grāmatas Viens Redditor par šo tēmu.

Izmantojot a Bezmaksas tiešsaistes demonstrācija No SD3 vietnē Hugging Face mēs izpildījām uzvednes un redzējām rezultātus, kas ir līdzīgi citu ziņotajiem. Piemēram, uzvedne “Vīrietis rāda rokas” atgrieza attēlu ar vīrieti, kurš tur divas lielas rokas atpakaļ, lai gan katrai rokai bija vismaz pieci pirksti.

Stabilitāte pirmo reizi paziņoja par Stable Diffusion 3 februārī, un uzņēmums plāno to darīt pieejamu dažādos modeļu izmēros. Šodienas izlaidums ir paredzēts “vidējai” versijai, kas ir modelis ar 2 miljardiem parametru. Papildus atsvaru klātbūtnei Pieejams apskaujot sejuTas ir pieejams arī izmēģinājumam ar uzņēmuma starpniecību stabilitātes platforma. Svari ir pieejami lejupielādei un lietošanai bez maksas zem Nekomerciāla licence Vienkārši.

Neilgi pēc paziņojuma februārī SD3 modeļa svaru izlaišanas aizkavēšanās izraisīja baumas, ka izlaišana aizkavējusies tehnisku problēmu vai nepareizas pārvaldības dēļ. Mākslīgā intelekta stabilitāte, jo uzņēmums nesen ir nokļuvis nesakārtotībā atkāpšanās Tās dibinātājam un izpilddirektoram Imadam Mushtaq martā un pēc tam virkni Atlaišanas. Tieši pirms tam trīs galvenie inženieri – Robins Rumbahs, Andreass Platmans un Dominiks Lorencs –Pamest uzņēmumu. Tās problēmas sniedzas vēl senākā pagātnē, parādoties ziņām par uzņēmuma slikto finansiālo stāvokli Attiecibas Kopš 2023.

Dažiem Stable Diffusion ventilatoriem Stable Diffusion 3 Medium kļūmes ir redzama uzņēmuma nepareizas pārvaldības izpausme un skaidra zīme, ka lietas sabrūk. Lai gan uzņēmums nav iesniedzis bankrota pieteikumu, daži lietotāji to ir izdarījuši Viņš taisīja tumšus jokus Par iespēju pēc SD3 Medium skatīšanas:

“Es domāju, ka tagad viņi var bankrotēt drošā un ētiskā veidā [sic] Galu galā ceļš. ”