Превърти до долу за английски език /// Scroll for English
Интервю с rawlab.xyz. (Радина Йотова, Рослана Йотова)
Между човешката отговорност и Космоса се ражда rawlab.xyz. Артистично-изследователско дуо, което изследва пресечни точки между човека и неговите екстензии, като технология, език и изкуство. Рослана и Радина се стремят да поставят винаги човека в началото и да го държат морално подсъдим за опитите му, но все пак май не всички сме 100% хора.
Какво се губи и какво се ражда, когато изкуството се изчислява?
rawlab.xyz Всички всичко изчисляват. Изчисляват инфлацията. Изчисляват лицето на паралелепипед. Изчисляват дори човешките емоции, настроения и коефициент на интелигентност. Не само в изкуството, но и в живота, когато започнем да изчисляваме – всичко е изгубено.
Ние сме върли противници на изчисленията. Стараем се да отправим критика точно към този аспект на съвременността, която прави всичко изчислимо. Нашата цел е да провокираме размисъл върху обезпокоителната реалност на профилирането и свеждането на идентичността на човек до числени стойности. Евгениката и френологията са две псевдонауки, които поставят основите на същите изчислителни механизми, с които работи и FaceID.
Друг проблематичен момент е, че хората се отказват напълно от своята емоционална интелигентност и автономия и оставят важните решения в ръцете на изчислителните технологии. Казват, че пистолетите не убиват хора. Хората убиват хора с пистолети. Но една автономна оръжейна система със смъртоносно действие взема решения, позовавайки се на предварително програмирани правила и алгоритмични модели. Без необходимост от потвърждението на оператор. Човекът създава машини, на които възлага морална отговорност, без да вземе предвид, че същите оперират на изчислителни принципи, изначално лишени от морални добродетели.
В нашето творчество се стараем да отправим критичен коментар към съвременните технологии, като го разглеждаме в техния контекст. Не просто като инструмент или „съ-автор“, а като явление, феномен и катализатор на обществени процеси. Това ни води и към втория въпрос.
Кога технологията се превръща в културен коментатор, а не просто в инструмент за продукция?
rawlab.xyz Това е нашата основна цел. Използваме модели за лицево разпознаване, обектно разпознаване, генеративен изкуствен интелект и др. Винаги се опитваме да проследяваме ограниченията, характерни за парадигмата на машинното обучение. Често пъти идеите за проекти се раждат от опити с непозната за нас технология или код и от уязвимостите на алгоритъма. Не предлагаме отговори, а по-скоро рамкираме въпросите, с които се сблъскваме в процеса на създаване.
Проектите ни са резултат от проучвания на теми като технологизацията на обществото и постоянно развиващия се пейзаж на медиираните взаимодействия. Използваме новите медии, за да коментираме скритите механизми и процеси зад тяхното функциониране. От инструмент за продукция технологията се превръща в субект на изследването ни. И по-конкретно изследване на влиянието ѝ върху формирането на социални норми и възприятия. Възприемаме технологиите не само като канали за предаване или генериране на съдържание, а като самото съдържание.
Най-голямата трудност, която срещаме, е да избягаме от буквализъм. Да направим не просто демонстрация на даден процес, а авторски жест. Това се явява най-голямото предизвикателство и е присъствало като казус при всички наши съвместни проекти. Какво ще кажем, а не само покажем.
Често пъти чуваме обратна връзка от посетители, че за тях е било много информативно преживяване. А понякога хора отказват да се запознаят с работата, защото смятат, че интеракцията им с творбата би компрометирала тяхната поверителност и тази на личните им данни. Тук идва интересният момент, в който човек осъзнато отказва да вземе участие в галерийното пространство, но неосъзнато участва в подобни процеси ежедневно.
Как се развива това, което вие правите в България? Къде намирате подкрепа, какъв е отпорът?
rawlab.xyz Както всичко останало в България, така и изкуството се явява огромно предизвикателство. Дигиталните изкуства са по-слабо представени на местната сцена. Те са сложни за инсталиране и поддръжка и почти невъзможни за продан в традиционния смисъл. Изискват скъпа техника, силни компютри, мултимедия, множество екрани, окабеляване, включване/изключване и др.
Продукционните бюджети почти никога не покриват наема на подобна техника. Имаме голям късмет, че нашите приятели и колеги винаги се отзовават и ни предоставят безвъзмездно личната си техника за периода на изложбата.
Имали сме и много технически затруднения и казуси. Имало е сърдити директори на градски галерии и се е случвало, без да искаме, да ядосаме куратори. Въпреки това вярваме в стойността на това, което правим.
Срещали сме подкрепа в лицето на ментори и колеги, куратори или малки общности, които ни мотивират да продължим. DA_LAB е лаборатория за дигитални изкуства, която подкрепя млади артисти и активно полага усилия за развитието на сцената у нас, както и синхронизирането на процесите в България със съвременните тенденции в дигиталното изкуство по света. КО-ОП, ReBonkers, BUNA, Аether също активно представят млади артисти и продуцират нетрадиционни формати.
Разчитаме най-вече на семейство и приятели, безценните доброволци и щедростта на цялата общност от творци и културни дейци. А най-голямата мотивация идва от срещите с посетители и техните отзиви.
Какви етични проблеми срещате в работата си в дигиталното изкуство и човешкия елемент?
rawlab.xyz Генерално има много етични проблеми около изкуствения интелект. Човешкият елемент е най-големият проблем, разбира се. Без него не би съществувал и изкуственият интелект. Тъй като тези машини са обучени от хора, всички наши предразсъдъци остават дълбоко внедрени в подобни технологии.
Друг колосален проблем са данните. Откъде идва информацията, с която се обучава изкуствения интелект, кой я контролира и притежава, както и фактът, че машините репродуцират стереотипи и модели на доминация.
Тук трябва отново да споменем и проблематиката с изчислителните процеси датафикацията на човешката идентичност. Данните представляват човешкото съществуване като количествено измерими показатели. Биометричното наблюдение например трансформира физическите атрибути в цифрови данни за идентификация, проследяване и анализ на поведението. Количественото определяне на човешката самоличност подкопава представите ни за поверителност и автономност?
През какво минава свързването на естественото въображение и кода?
rawlab.xyz Проблематизираме съвременните технологии, подхождайки с критически анализ към новите медии и изкуствения интелект. Стараем се да разкрием не само техническите, но и политически им измерения. Демонстрираме техните ограничения и предубеждения. Провокираме машината да греши. Анализираме ролята на човека в обучението на алгоритмите, разобличаваме мита за обективност и изследваме машинното обучение като културно и политически обусловен процес.
Когато създаваме интерактивни преживявания, наблягаме на ролята на посетителя в активирането на произведението, което подсилва идеята, че смисълът се изгражда съвместно чрез взаимодействие и консенсус. Обичаме да мислим за нашата работа като „задвижвана от“ зрителя. Тя реагира и се променя.
Този процес произвежда нови значения, които понякога надскачат първоначалния замисъл. Именно в този диалог откриваме художествения потенциал на новите медии.
Кое е суровото в работата на raw.lab?
rawlab.xyz На първо място това е естетиката и по-скоро липсата на естетизация. Естетиката е силно повлияна от естеството на медиите, които използваме. В известен смисъл това е „суровата“ естетика на медията. Когато започнахме да работим заедно, ни трябваше име. В академията получаваме една и съща обратна връзка от преподавателите си – че работата ни много често е „сурова“. Понякога в добър смисъл, но не винаги. Сега го правим винаги и умишлено.
С този подход оставяме видими процесите, грешките и абсурдите, които възникват при взаимодействието между човека и машината. Тази неподправеност придава автентичност и създава пространство, в което можем да запазим директната, необработена връзка между посланието и технологията.
100% хора ли сте?
rawlab.xyz Зависи как определяме хората. Какво значи да си човек? За машината човек означава няколко неща – лицевите маркери – нос, очи, уста, уши. Рамене, лакти, китки. Торс, колене и ходила. Но за човека човек означава много повече. В българският език думата „човек“ е многозначна. „Имам човек“, „Ти си голям човек“, „От теб няма да стане човек“, „Не-човек“ и т.н. За да определим човека като „човек“ трябва да имаме много ясна дефиниция за човек. Но дори и да приемем колективно определение на думата, дефиницията ѝ си остава не-изчислима.
Никой не е 100% човек. И ние не сме.
EN ///
We Make the Machine Err: It Carries All Our Flaws
Text written for the print edition of ПРОГРАМАТА magazine. 2025
An interview with rawlab.xyz (Radina Yotova, Roslana Yotova)
Somewhere between human responsibility and the Cosmos, rawlab.xyz comes into being. An artist-researcher duo exploring the points of intersection between humans and their extensions — technology, language, and art. Roslana and Radina insist on placing the human being at the beginning of the equation, and on holding us morally accountable for our experiments. Though perhaps not all of us are 100% human.
What is lost, and what is born, when art becomes computational?
rawlab.xyz. Everyone calculates everything. They calculate inflation. They calculate the surface area of a parallelepiped. They even calculate human emotions, moods, and IQ. Not only in art, but in life itself — once we begin to calculate, everything is lost.
We are vehemently opposed to calculation. We try to direct our critique precisely at this aspect of contemporary life that insists on making everything calculable. Our aim is to provoke reflection on the unsettling reality of profiling and reducing human identity to numerical values. Eugenics and phrenology are two pseudosciences that laid the foundations for the same computational mechanisms behind Face ID.
Another troubling aspect is that people are surrendering their emotional intelligence and autonomy altogether, leaving important decisions in the hands of computational technologies. They say guns don’t kill people. People kill people with guns. But an autonomous weapons system capable of lethal action makes decisions according to pre-programmed rules and algorithmic models — without requiring confirmation from an operator. Humans create machines and entrust them with moral responsibility, without considering that these same machines operate according to computational principles inherently devoid of moral virtue.
In our work, we try to offer a critical commentary on contemporary technologies by examining them within their context. Not simply as tools or “co-authors,” but as phenomena, as forces, as catalysts for social processes. And this leads us to the second question.
When does technology become a cultural commentator rather than merely a tool for production?
rawlab.xyz That is our primary goal. We use facial-recognition models, object recognition, generative artificial intelligence, and more. We always try to trace the limitations inherent to the paradigm of machine learning. Many of our project ideas emerge from experimenting with a technology or a piece of code unfamiliar to us, and from discovering the vulnerabilities of the algorithm. We do not offer answers so much as frame the questions we encounter along the way.
Our projects grow out of research into subjects such as the technologization of society and the constantly shifting landscape of mediated interaction. We use new media to comment on the hidden mechanisms and processes behind their operation. Technology ceases to be a tool of production and becomes the subject of our investigation — specifically, an investigation into its influence on the formation of social norms and perceptions. We see technologies not merely as channels through which content is transmitted or generated, but as the content itself.
The greatest difficulty we encounter is escaping literalism. Making it not simply a demonstration of a particular process, but an authorial gesture. That is the greatest challenge, and it has been present in every project we have created together. What will we say, rather than merely show?
We often hear from visitors that the work was, for them, a highly informative experience. At other times, people refuse to engage with it because they feel that interacting with the artwork would compromise their privacy and that of their personal data. And this is where things become interesting: a person consciously refuses to participate in the gallery space, while unconsciously participating in precisely these kinds of processes every day.
How is what you do developing in Bulgaria? Where do you find support, and where do you meet resistance?
rawlab.xyz As with almost everything else in Bulgaria, art is a tremendous challenge. Digital art remains underrepresented on the local scene. It is difficult to install and maintain, and almost impossible to sell in the traditional sense. It requires expensive equipment, powerful computers, multimedia, multiple screens, cables, constant plugging and unplugging, and so on.
Production budgets rarely cover the cost of renting such equipment. We are incredibly lucky that our friends and colleagues are always willing to help, lending us their personal equipment free of charge for the duration of an exhibition.
We have also encountered plenty of technical difficulties and complications. There have been disgruntled directors of city galleries, and occasions when, without meaning to, we have managed to anger curators. Even so, we believe in the value of what we do.
We have found support in mentors and colleagues, curators, and small communities that encourage us to keep going. DA_LAB is a digital arts laboratory that supports young artists and actively works to develop the scene in Bulgaria, as well as to bring local practices into dialogue with contemporary trends in digital art around the world. KO-OP, ReBonkers, BUNA, and Aether also actively present young artists and produce unconventional formats.
Above all, we rely on family and friends, on our invaluable volunteers, and on the generosity of the wider community of artists and cultural workers. And our greatest motivation comes from meeting visitors and hearing what they have to say.
What ethical problems do you encounter in your work with digital art and the human element?
rawlab.xyz Generally speaking, there are countless ethical problems surrounding artificial intelligence. The human element is the greatest problem, of course. Without it, artificial intelligence would not exist in the first place. Since these machines are trained by humans, all of our prejudices remain deeply embedded within such technologies.
Another colossal problem is data. Where does the information used to train artificial intelligence come from? Who controls it and who owns it? And what about the fact that machines reproduce stereotypes and established patterns of domination?
Here we must once again return to the problem of computational processes and the datafication of human identity. Data turns human existence into a set of quantitatively measurable indicators. Biometric surveillance, for example, transforms physical attributes into digital data for identification, tracking, and behavioural analysis. The quantification of human identity undermines our understanding of privacy and autonomy.
What does it take to connect natural imagination with code?
rawlab.xyz We problematize contemporary technologies by approaching new media and artificial intelligence through critical analysis. We try to expose not only their technical dimensions, but their political ones as well. We demonstrate their limitations and their biases. We provoke the machine into making mistakes. We examine the role of humans in training algorithms, dismantle the myth of objectivity, and investigate machine learning as a culturally and politically conditioned process.
When we create interactive experiences, we emphasize the visitor’s role in activating the work. This reinforces the idea that meaning is constructed collectively, through interaction and consensus. We like to think of our work as being “powered by” the viewer. It responds. It changes.
This process produces new meanings that sometimes exceed the original intention. It is precisely within this dialogue that we discover the artistic potential of new media.
What is raw about the work of raw.lab?
rawlab.xyz First and foremost, it is the aesthetics — or rather, the absence of aestheticization. The aesthetics are strongly shaped by the nature of the media we use. In a sense, this is the “raw” aesthetics of the medium itself.
When we first began working together, we needed a name. At the academy, we kept receiving the same feedback from our professors: our work was very often “raw.” Sometimes in a good way, though not always. Now we do it deliberately. Every time.
With this approach, we leave visible the processes, mistakes, and absurdities that emerge in the interaction between human and machine. This lack of polish lends the work a sense of authenticity and creates a space where we can preserve a direct, unprocessed connection between the message and the technology.
Are you 100% human?
rawlab.xyz It depends on how we define humans. What does it mean to be human? To a machine, a human means a handful of things: facial markers — nose, eyes, mouth, ears. Shoulders, elbows, wrists. Torso, knees, feet.
But to a human, a human means so much more. In Bulgarian, the word “човек” — human, person — carries many meanings. “I have a person” — meaning I have someone who can help me. “You are a great human.” “You’ll never become a proper person.” “Non-human,” and so on.
To define a human as “human,” we would need an exceptionally clear definition of what a human is. But even if we collectively agreed on such a definition, it would remain impossible to calculate.
Nobody is 100% human.
Neither are we.