Quand I.A. d'la gêne...

[Grover]

NDA : j'ai scindé la discussion car on a pas mal dérivé du sujet initial sur les news de Cyan.

Juste pour le plaisir des yeux, pas du Cyan, mais du Martinière en collaboration avec Peter Elson :

"Un train futuriste conçu comme un reptile avec des détails rococo"

Très pratique l'IA

En l'occurrence, non, c'est un travail infographique "traditionnel" de Stéphane Martinière

[Stigma]

En l'occurrence, non, c'est un travail infographique "traditionnel" de Stéphane Martinière

Ces jours ci, on du mal à voir la différence :o)

[Grover]

En l'occurrence, non, c'est un travail infographique "traditionnel" de Stéphane Martinière

Ces jours ci, on du mal à voir la différence :o)

Oui, la frontière est souvent ténue...

A propos d'images générées par I.A., Volyo a traduit sur FB un texte très intéressant de de l'artiste Lesley Thiel :

<!--SPOILER BEGIN-->? Cliquez pour voir le message - Recliquez pour le cacher... ?<div class=\"spoilermain\" id=\"c3f910569544bba6fab26cde2320b6fe\" style=\"display:none\"><!--SPOILER END-->I don’t use AI generators at any point in the creation of my paintings. I don’t use them to come up with ideas, or to show me how to knit together the elements of a painting. I have never, and will never use an AI generator in my artistic practice. The concepts, successes and failings in the work are mine, and mine alone. I’m saying this because I was told, by someone who is attempting to protect artists in the face of the AI onslaught, that my painting ‘And We Praise Her’ was flagged, by a detection software, as probably generated by Stable Diffusion. This despite the fact that it was painted several years before AI image generation became available.
I’ve made my views on AI generated imagery pretty clear, in the past. I have decided not to call it ‘art’ because, in my view, that term applies solely to something created by the human mind and hand, be it with tools or a stylus. The images created by applications like Stable Diffusion, Midjourney, and Dall-E are not art, they are the stolen work of tens of thousands of artists, thrown into an algorithm pot and used to regurgitate something that a user thinks will gain them attention and clicks.
Those who use AI image generators usually claim that there is immense skill in defining the prompts needed to create images. If a client came to me and supplied a very detailed description of what they wanted to be included in a commission, the copyright of the resulting piece of art would not be theirs, it would be mine. No matter how many tweaks and changes they suggested. I am the artist and the law recognizes that. Why? Because it is still my vision and my ability that translates those prompts into a physical piece of art. So someone ‘creating’ an AI image is reaching into the minds of tens of thousands of artists and stealing from them, in order to have a computer spit out something they can claim as their own work.
Most artists continue their practice, no matter the struggle. It takes years to build up skills and find openings in the art world. For the few who are lucky enough to do well, there are thousands who struggle to even recoup their investment in their creative vision. But they keep going, through all the setbacks, because there is something inside them that needs to express itself through their art. It’s their way of speaking to the world.
Right now, AI images are flooding the internet. Social media platforms are full of accounts passing off AI generated images as their art, and failing to own up to the cheat. This may not seem harmful, to the casual observer, but it’s doing real damage to digital artists, and it’s also going to hurt traditional artists. People will find it more and more difficult to find the art of those creatives, when it’s buried under an avalanche of AI generated imagery. And they will find it hard to discern which art is real, and which is fake. And with that, the artists will lose a channel for their creative voice: a voice society needs to hear, because artists provide a view of the world that is often outside of the mundane and day to day. They speak to people’s hearts through their work. A soulless machine can never do that. It can never truly speak to you of shared experience and suffering; of love and hope and inspiration. It can only vomit back what it thinks you want to see, like a psychopath who knows how to imitate real human emotion.
There is another concern with all the AI generated imagery appearing on our feeds. It’s the cost. Right now, AI generators are mostly free to use. But that doesn’t mean they have no cost. They require huge amounts of processing power. It’s estimated that, by 2026, 30% of Ireland’s energy usage will be for the data centres that ring Dublin, because of the rise in AI usage. According to the IAEA, the amount of energy these technologies use is expected to explode. That’s energy that has to be generated in the real world and that is almost certainly created, at least in part, by the burning of fossil fuels. What will happen when we need more energy to cool homes in climate change generated heat waves? Or grow food indoors because our climate no longer allows it to thrive outside? What happens when there is a conflict between the survival of local populations and the profits of technology companies? If past experience is anything to go by, it will not end well for the people.
I have one final thought, in this admittedly long diatribe. What’s the end game for the people investing in AI generated imagery? Right now, they’re giving usage away, or asking for relatively small subscriptions. But these applications involve billions, if not trillions, in investment. Why? What is the ultimate purpose of their activities? Not their currently stated aims, but the reason why they would spend the GDP of a small country on developing something that steals human creativity.[/SPOILER]

Je n’utilise à aucun moment d’IA générative dans la création de mes peintures. Je ne les utilise pas pour trouver des idées ou pour me montrer comment lier les éléments d’un tableau. Je n’ai jamais utilisé et n’utiliserai jamais d’IA générative dans ma pratique artistique. Les concepts, les réussites et les échecs de ce travail sont les miens, et les miens seuls. Je dis cela parce que quelqu’un qui tente de protéger les artistes face aux assauts de l’IA m’a dit que ma peinture « And We Praise Her » avait été signalée, par un logiciel de détection, comme étant probablement générée par Stable Diffusion. Ceci malgré le fait qu’elle a été peinte plusieurs années avant que la génération d’images par IA ne soit disponible.
Dans le passé, j’ai exprimé assez clairement mon point de vue sur les images générées par l’IA. J’ai décidé de ne pas appeler cela « art » car, à mon avis, ce terme s’applique uniquement à quelque chose créé par l’esprit et la main humaine, que ce soit avec des outils ou un stylet. Les images créées par des applications comme Stable Diffusion, Midjourney et Dall-E ne sont pas de l’art, ce sont les œuvres volées de dizaines de milliers d’artistes, jetées dans un marmite d’algorithmes et utilisées pour régurgiter quelque chose qui, d’après ce que l’utilisateur s’imagine, va lui attirer attention et clics.
Ceux qui utilisent des générateurs d’images par IA affirment généralement qu’il faut avoir une très grand talent dans la définition des invites* (NDT : textes à taper pour décrire ce que l’on souhaite que l’IA génère) nécessaires à la création d’images. Si un client venait me voir et me fournissait une description très détaillée de ce qu’il souhaitait inclure dans une commande, le droit d’auteur de l’œuvre d’art résultante ne lui appartiendrait pas, ce serait le mien. Peu importe le nombre d’ajustements et de changements suggérés. Je suis l’artiste et la loi le reconnaît. Pourquoi ? Parce que c’est toujours ma vision et ma capacité qui traduisent ces invites en une œuvre d’art physique. Ainsi, quelqu’un qui « crée » une image IA pénètre dans l’esprit de dizaines de milliers d’artistes et les vole, afin qu’un ordinateur recrache quelque chose qu’ils peuvent revendiquer comme leur propre œuvre.
La plupart des artistes poursuivent leur pratique, quelle que soit la difficulté. Il faut des années pour acquérir des compétences et trouver des débouchés dans le monde de l’art. Pour les rares qui ont la chance de réussir, il y en a des milliers qui ont du mal à récupérer leur investissement dans leur vision créative. Mais ils continuent, malgré tous les revers, parce qu’il y a quelque chose en eux qui doit s’exprimer à travers leur art. C’est leur façon de parler au monde.
À l’heure actuelle, les images de l’IA inondent Internet. Les plateformes de médias sociaux regorgent de comptes faisant passer les images générées par l’IA pour leur art et ces plateformes sont incapables de reconnaître la triche. Cela ne semble peut-être pas préjudiciable à l’observateur occasionnel, mais cela cause de réels dommages aux artistes numériques, et cela va également nuire aux artistes traditionnels. Les gens auront de plus en plus de mal à trouver l’art de ces créatifs, lorsqu’il sera enseveli sous une avalanche d’images générées par l’IA. Et ils auront du mal à discerner quel art est réel et lequel est faux. Et avec cela, les artistes perdront un canal pour leur voix créative : une voix que la société a besoin d’entendre, car les artistes offrent une vision du monde qui est souvent en dehors du banal et du quotidien. Ils parlent au cœur des gens à travers leur travail. Une machine sans âme ne pourra jamais faire ça. Cela ne pourra jamais vraiment vous parler d’expériences et de souffrances partagées ; d’amour, d’espoir et d’inspiration. Il ne peut que vomir ce qu’il pense que vous voulez voir, comme un psychopathe qui sait imiter les véritables émotions humaines.
Il existe une autre préoccupation concernant toutes les images générées par l’IA qui apparaissent sur nos flux. C’est le coût. À l’heure actuelle, les IA génératives sont pour la plupart gratuites. Mais cela ne veut pas dire qu’elles n’ont aucun coût. Ils nécessitent d’énormes quantités de puissance de traitement. On estime que d’ici 2026, 30 % de la consommation d’énergie de l’Irlande sera destinée aux centres de données qui entourent Dublin, en raison de l’augmentation de l’utilisation de l’IA. Selon l’AIEA, la quantité d’énergie utilisée par ces technologies devrait exploser. C’est une énergie qui doit être générée dans le monde réel et qui est presque certainement créée, au moins en partie, par la combustion de combustibles fossiles. Que se passera-t-il lorsque nous aurons besoin de plus d’énergie pour refroidir les maisons lors des vagues de chaleur générées par le changement climatique ? Ou cultiver de la nourriture à l’intérieur parce que notre climat ne lui permet plus de prospérer à l’extérieur ? Que se passe-t-il lorsqu’il y a un conflit entre la survie des populations locales et les profits des entreprises technologiques ? Si l’on en croit l’expérience passée, elle ne se terminera pas bien pour les gens.
J’ai une dernière pensée, dans cette longue diatribe, certes. Quel est le résultat final pour ceux qui investissent dans les images générées par l’IA ? À l’heure actuelle, ils abandonnent l’utilisation ou demandent des abonnements relativement modestes. Mais ces applications impliquent des millions, voire des milliards, d’investissement. Pourquoi ? Quel est le but ultime de leurs activités ? Non pas leurs objectifs actuellement déclarés, mais la raison pour laquelle ils dépenseraient le PIB d’un petit pays pour développer quelque chose qui vole la créativité humaine.

Deux points intéressants que je souhaiter souligner

• je trouve déjà assez étrange d'utiliser une I.A. générative alimentée par ses propres oeuvres, où se trouve la démarche créative, là-dedans ? Mais bon, pourquoi pas ?
• Mais utiliser ces I.A. "gratuites" gavées de tout ce qu'elles ont trouvé sur internet est un pur vol, accompagné d'un gâchis énergétique énorme (ben oui, ces serveurs ne fonctionnent pas à l'air du temps), tout comme le cryptomining, d'ailleurs.

[Scribe]

D'accord dans les grandes lignes avec tout ça. Déjà que vivre de son art était très compliqué avant l'arrivée des IA, alors maintenant c'est vraiment devenu cauchemardesque pour les artistes qui se font piller leurs créations pour fournir sans leur consentement de la matière pour exercer les IA. Et on voit déjà de nombreux sites internet et compagnies qui utilisent ces créations "gratuites" pour ne pas payer un artiste ou un designer...
Malheureusement, je pense qu'on fera difficilement marche-arrière, mais il faudrait un cadre légal pour encadrer ces pratiques.

Après, est-ce que les machines sont incapables de créer, je ne suis pas forcément d'accord, mais ça nous emmène sur un débat philosophique...

[Grover]

Ceci dit, la riposte s'organise : https://futurism.com/the-byte/nightshade...-ai-models

Pilule empoisonnée

Être un artiste dans le monde d'aujourd'hui signifie que vous ne pouvez pas simplement vous inquiéter du simple plagiat et des copieurs trompeurs - vous devez désormais également être attentif aux modèles d'IA génératifs qui copient votre travail.

Heureusement, un nouvel outil appelé Nightshade peut non seulement protéger vos images contre l'imitation par les modèles d'IA, mais aussi les « empoisonner » en leur fournissant des données trompeuses.

Teasé pour la première fois fin 2023, ses développeurs ont annoncé vendredi qu'une version terminée de Nightshade était enfin disponible en téléchargement.

C'est le dernier signe d'artistes durcissant leur position contre les générateurs d'images d'IA comme Stable Diffusion et Midjourney, qui ont été formés sur leurs œuvres sans autorisation ni compensation.

--------------------------------------------------------------------------------------

Les artistes contre-attaquent

Les développeurs de Nightshade, une équipe d'informaticiens de l'Université de Chicago, affirment que leur logiciel est censé être "un outil offensif", là où son prédécesseur Glazer a été conçu pour être un outil défensif.

Ils recommandent toujours d'utiliser les deux outils. Glaze fonctionne en modifiant subtilement — « glaçage » — une image au niveau des pixels. Ces changements sont largement imperceptibles à l'œil nu, « comme la lumière UV » selon les mots des développeurs, mais sont clairement visibles pour les modèles d'IA, qui voient les images différemment. L'effet global masque le contenu d'une image pour une IA.

Nightshade va encore plus loin. En « ombrant » une image, l’outil introduit également des changements subtils, mais ces modifications peuvent amener un modèle d’IA à identifier incorrectement ce qu’il voit. Un humain pourrait voir une "vache dans un champ vert", écrivent les développeurs, "mais un modèle d'IA pourrait voir un sac à main en cuir posé dans l'herbe".

--------------------------------------------------------------------------------------

Pouvoir de négociation

Les développeurs envisagent qu'avec une adoption suffisamment large, Nightshade puisse être utilisé pour "perturber les modèles qui grattent leurs images sans consentement (protégeant ainsi tous les artistes contre ces modèles)." Cela pourrait « augmenter le coût de la formation sur les données sans licence », obligeant les entreprises d'IA à se former uniquement en utilisant des œuvres correctement autorisées par les créateurs.

Pendant ce temps, en utilisant Glaze, les artistes peuvent lancer des invites qui imitent le style d'un artiste spécifique. En effet, certains artistes ont été si omniprésents copiés dans des images générées par l’IA que leurs noms ont dû être bannis des invites – bien que cela n’ait pas fait grand-chose pour dissuader les frères tenaces de l’IA déterminés à copier leur travail.

C'est peut-être le meilleur moyen pour les artistes de protéger leurs œuvres car, pour l'instant, les voies à suivre pour intenter d'éventuels recours juridiques en cas de violation du droit d'auteur restent incertaines. Les artistes et les auteurs – et même Getty Images – ont poursuivi les sociétés d’IA sur ce front, et ce n’est que lorsqu’une décision sera prise sur ces affaires que la légalité de cette pratique deviendra plus claire. D’ici là, les sociétés d’IA engloutiront autant de contenu que possible. Donc pour l'instant, "l'ombrage d'abord, le vernis en dernier".

[Scribe]

Intéressant !

[Stigma]

La seule utilisation de l'IA dans mon projet Unity, c'est pour les traductions car le jeu sera en 6 langues.

[Grover]

La seule utilisation de l'IA dans mon projet Unity, c'est pour les traductions car le jeu sera en 6 langues.

traduire correctement ton jeu ne pose évidemment aucun souci, c'est ton travail, il t'appartient et on ne peut pas dire que les dictionnaires de traductions soient des "œuvres artistiques" appartenant à des personnes spécifiques.
L'I.A. n'est en soi ni bonne ni mauvaise, c'est juste un outil et tout dépend de l'utilisation qu'on en fait.

En recherche fondamentale ou appliquée, c'est une aide précieuse :

• Un labo coréen a ainsi réussi à stabiliser le flux plasmique de son tokamak et atteindre plusieurs centaine de millions de degrés °C pendant un temps jamais atteint jusque-là. La suite est prometteuse : la possibilité à terme de produire une énergie durable, peu polluante et d'un coût raisonnable.
• Idem en médecine où des I.A. capables d'analyser des milliers de publications par jour et d'en tirer des conclusions ont permis des diagnostics impossible auparavant.
• Des labos utilisent des I.A. spécifiquement entraînées pour rechercher de nouvelles molécules ayant des caractéristiques bien précises (médicaments, catalyseurs chimiques, électrodes de batteries, etc.)
• Il y a plein d'autres exemples où les I.A. se sont avérées précieuses.

Par contre, les I.A. dites génératives (texte, image, vidéo, son, musique, etc.) se contentent de taper dans un fond accessible qui n'appartient pas à leurs créateurs pour en tirer des "oeuvres" relevant du plagiat absolu.

[Grover]

Après, est-ce que les machines sont incapables de créer, je ne suis pas forcément d'accord, mais ça nous emmène sur un débat philosophique...

En l'état actuel des technologies, non, les I.A. ne savent pas créer.
Certes, toute personne créative est influencée par ce qu'elle a vu, lu, entendu, c'est une évidence. MAIS elle est surtout influencée par ce qu'elle a vécu et par l'interprétation personnelle qu'elle a de toutes ces expériences. Et ça, c'est actuellement hors de portée de n'importe que algorithme, même s'ils arrivent de mieux en mieux à singer ce processus.

[Scribe]

Oui je suis d'accord que ce n'est pas le cas à l'heure actuelle, je parlais dans l'absolu.
C'était plus dans l'optique : "Est-ce qu'on arrivera pas un jour à des machines tellement complexes qu'elles arriveront à créer véritablement"?
Ça questionne en fait la nature de ce que nous nommons conscience, intelligence, âme etc. On reconnaît bien de l'intelligence, des comportements créatifs à des animaux. Est-ce que ce que nommons "conscience" n'est pas juste le fruit de l'incroyable mécanique interne, les milliards de connexions neuronales de notre cerveau ? Si une machine arrivait à un tel niveau de complexité, pourrait-on lui refuser de qualifier ses créations d'artistique, de lui accorder une sorte de conscience ?

Bon voilà je le savais je suis parti trop loin.

[Grover]

Bon voilà je le savais je suis parti trop loin.

Je ne pense pas. Dans l'absolu, les machines capable d'atteindre la complexité d'un cerveau humain ne sont pas théoriquement impossibles, mais les obstacles pour y arriver sont très loin d'être levés. Quand à l'énergie nécessaire à nourrir de tels ogres, je n'ose l'imaginer...

[Grover]

Un exemple de ce que peut donner Midjourney avec des prompts "Myst" par Matthew Haggett sur FB :

-

-

-

-

-

C'est évidemment très tentant de vouloir jouer à Dieu avec de tels jouets, mais qui est capable aujourd'hui de connaître les sources qui ont présidé à ces créations ? Qui peut affirmer qu’aucun artiste n'a été spolié d'une ou plusieurs de ses œuvres ?

[Scribe]

Tiens, à propos des IA, un autre domaine qui utilise déjà cette technologie et dont on se sert déjà sans même le savoir :

Grover m'avait demandé de poster la trad de la dernière news de Cyan, que j'ai fait traduire par Google pour gagner du temps. Ca faisait longtemps que j'avais pas utilisé GoogleTrad et j'ai été vraiment impressionné par la qualité du résultat. À l'exception de quelques tournures de phrases un peu tarabiscotées et quelques erreurs minimes, tout est vraiment bien traduit.
Il comprend parfaitement quand il y a des titres d'oeuvres qu'il laisse en anglais, et il a même traduit le mot "rivenese", qui n'existe pas en anglais, par "rivenaise", ce qui pourrait être une traduction acceptable (même si j'ai remplacé par "rivenienne" qu'on a pris l'habitude d'utiliser).

L'intelligence artificielle intégrée à des outils de traduction produit vraiment des trucs de qualité, et ce n'est que le début. Les traducteurs professionnels (comme de nombreux autres métiers d'ailleurs) ont du souci à se faire...

[jefftom]

(je prends le sujet dans un sens un peu large :
à déplacer dans une meilleure case donc, si c'est vraiment trop large)

Dans la série "on n'arrête pas le progrès",
la pub dont Apple s'est excusé...

[Scribe]

J'avais pas suivi la "polémique" donc je me suis renseigné après avoir vu la pub, et bon, tempête dans un verre d'eau, non ?

Je veux bien qu'on trouve pas ça un peu nul comme idée et comme représentation, mais bon, si on veut s'indigner contre Apple y'a peut-être des angles d'attaque plus pertinents...