Imagery at the intersection 
of membership

Alexander Drießen

Techniken

ComfyUI, AfterEffects

Informationen
Modell Stable Diffusion 1.5
Custom Node Vector Sculptor

Im Zuge meiner Design-Recherche rund um die Ausstellung „Fuzzy Logic — KI-Gestaltung als Möglichkeitsraum“ bin ich thematisch tiefer in das Konzept der Fuzzy Logic und ihre Anwendungsbereiche eingetaucht. Besonders das Konzept des Fuzzy Sets hat mein Interesse geweckt: 
Ein Fuzzy Set beschreibt eine Menge, deren Elemente nicht absolut zugehörig oder nicht zugehörig sind (binär, true vs. false), sondern deren Zugehörigkeit mit einem Grad an Wahrheit („truthyness“) 
ausgedrückt werden.

In diesem Kontext stellte sich mir die Frage: Wer bestimmt die äußeren Extrema eines Fuzzy Sets? Wann und wie schnell geschieht der Übergang einer Zugehörigkeit eines Items zu dem eines anderen? 
Anders als bei klassischen Mengen (Crisp Sets) existieren hier keine globalen Wahrheiten; vielmehr ergeben sich die maximalen und minimalen Werte aus den lokal verfügbaren Daten. Für mich bedeutet das: Ein Fuzzy Set kann als eine art Blase verstanden werden, die die „truthyness“ der enthaltenen Elemente in einem gegebenen Kontext sichtbar macht.

Mein erster experimenteller Ansatz bestand darin, diese Extrema im Latent Space mathematisch zu übersteuern, also hinter das Maximum oder Minimum zu gelangen, indem die Vektoren im CLIP-Space verschoben werden. 

Mit Hilfe der Custom Node Vector Sculptor konnte ich diese Manipulation testen, jedoch ohne nachvollziehbare oder konsistente Ergebnisse. Der Output aus dieser Vorgehensweise wirkte eher zufällig und 
schwer steuerbar.

Zweiter Ansatz

In einem zweiten Ansatz untersuchte ich, immer noch mit derselben Custom Node, den Punkt, an dem sich die Zugehörigkeitswerte zweier Items eines Fuzzy Sets im Übergang überschneiden, also den Moment, an dem sich ihre Fuzzy Memberships treffen.

Anbei eine Skizze, um besser zu verstehen, an welcher Stelle genau meine Untersuchung ansetzt bzw. ansetzen sollte. (Siehe Abbildung Nr. 1)

graphic-imagery-at-the-intersection-of-membership
Abbildung Nr.1

Ich bin dabei wie folgt vorgegangen: 
Für den Text-to-Image-Workflow kam Stable Diffusion 1.5 zum Einsatz. Um in den CLIP-Latent Space einzugreifen, nutzte ich die Custom Vector Sculptor Node, die es ermöglicht, Vektoren von Items zu manipulieren. Anschließend habe ich iterativ den Überschneidungswert zwischen zwei Items hochgezählt, wobei ich die Parameter conditioning_to_strength und das Slerp-Conditioning beeinflusst habe. Auf diese Weise konnte ich ein graduelles Fading vom conditioning_from-Prompt zum conditioning_to-Prompt erzeugen und die Übergänge der Zugehörigkeitsgrade im CLIP Space sichtbar machen.

hsbi_dmx_beyond-ai-slop_imagery-workflow-01_alexander-driessen
Screenshot des Workflows in ComfyUI

Zur Veranschaulichung meiner Experimente habe ich aus den generierten Bildreihen zwei Videos erstellt. Das erste zeigt den Übergang von „Black Rectangle“ zu „White Circle“, das zweite den Übergang von „White Rectangle“ zu „Black Circle“. Diese Videos machen die graduellen Veränderungen und die Punkte der Überschneidung im Fuzzy Set dynamisch erfahrbar.

Mein Hero- bzw. Cover-Bild zeigt den Step genau in der Mitte der jeweiligen Bildstrecken. Es repräsentiert den Moment, an dem sich die Zugehörigkeitswerte der beiden Extrema annähern und teilweise überschneiden: den Punkt des Crossfades.

hsbi_dmx_beyond-ai-slop_hero-01_alexander-driessen_v01
hsbi_dmx_beyond-ai-slop_hero-02_alexander-driessen_v01

Bei der gestalterischen Umsetzung habe ich bewusst auf grafisch einfache, bekannte Formen wie Rechtecke und Kreise sowie auf Schwarz-Weiß-Kontraste gesetzt. Ziel war es, die Aufmerksamkeit nicht auf komplexe Bildinhalte zu lenken, sondern den Übergang selbst zwischen den Extremen visuell hervorzuheben. Hierbei fiel mir auf, dass egal wie graduell ich den Wert pro Iteration erhöhte, der Sprung vom Konzept „Rectangle“ zum Konzept „Circle“ irgendwann abrupt stattfand.

Meine Erkenntnis

An dieser Stelle wird deutlich, dass auch die Fuzzyness in ihrer graduellen Abstufung letztendlich aus 0 und 1 besteht, nur eben über ein breiter gestrecktes Spektrum. Die scheinbare Kontinuität entsteht also durch die Vielzahl kleiner Abstufungen, wodurch der Übergang für uns als Betrachter facettenreicher und weicher erscheint, obwohl die grundlegenden Extrema weiterhin binär bleiben.