Focus

Artificial Intelligence

Articles, podcasts, talks, and more about Artificial Intelligence.

LLMs mit Spring AI integrieren

Die gesamte Welt spricht aktuell über Generative KI und Large Language Models (LLMs). Und auch wenn ich persönlich das Thema aktuell als zu sehr gehypt empfinde, sollten wir solche Trends nicht komplett verschlafen. Daher zeigt dieser Artikel, wie sich LLMs mit Spring AI integrieren lassen.

Blog Post

Better RAG With Hybrid Search

One component of RAG (retrieval-augmented generation) is the retrieval. In other words: we have to solve a search problem. Reading articles about RAG, one can get the impression that vector search is the essential or even the only piece of the puzzle. In this blogpost you’ll see why this does not bring us close enough to the goal.

Blog Post

When the Worldview is Shifting

Sometimes it is the small details that change our worldview; when the veil of magic lifts and the magician’s craft shines through

Blog Post

Wenn das Weltbild wackelt

Large Language Models (LLMs) können sich wie Magie anfühlen. Wir beobachten sie und stellen uns vor, dass sie auf eine bestimmte Art funktionieren. Dann überrascht uns etwas, das alles entzaubert und unsere Vorstellung nachhaltig umkrempelt. In diesem Blogpost zeige ich Ihnen ein solches Erlebnis aus eigener Erfahrung und ich glaube, danach könnte sich Ihr Weltbild verändert haben.

Blog Post

Besseres RAG mit hybrider Suche

Eine Komponente von RAG (Retrieval-Augmented Generation) ist das Retrieval. In anderen Worten haben wir ein Suchproblem zu lösen. Wenn man Artikel über RAG liest, bekommt man den Eindruck, dass die Vektorsuche ein essentieller oder sogar der einzige Bestandteil sei. In diesem Blogpost sehen Sie, warum das nicht zum Ziel führt.

Podcast

INNOQ Technology Day

Programm und Behind the Scenes

Blog Post

LLM-assisted Abbreviation Mining for Legacy Systems

This blog post shows the process of mining abbreviations and discovering first concepts a COBOL legacy mainframe codebase is made of with the help of Large Language Models. It uses Python, pandas and Claude 3.5 Sonnet to generate insights that can be gathered from such a simple thing like a list of files.

Article

Generative AI: The End of “Too Expensive” in Business Software?

”We’ve found no use cases.” — No, you’ve got too many. Let’s take a look at how Generative AI will change business software beyond chatbots. What features might become possible that weren’t before, or were just too expensive?

Article

Here’s All You Need To Know To Start Building With Generative AI

Article

How To Build a Data Product with Databricks

In today’s data engineering, the focus is primarily on developing modular data products. This article outlines the advantages of modularity over monolithic data pipelines and explains, step-by-step, how to develop data products using Databricks – from defining a data contract to creating and implementing Databricks Asset Bundles, setting up a CI/CD pipeline, and publishing metadata.

Podcast

KI-unterstützte Entwicklung

ChatGPT im täglichen Einsatz

Podcast

RAG

Abfragen und Bergen von Wissen

Podcast

Enterprise Search mit Vektordatenbanken

Was Vektordatenbanken anders machen als der Suchindex

Podcast

AI Prompting

Kontext ist Gold

Blog Post

Entwickeln mit ChatGPT

Wie KI meine Programmierarbeit revolutioniert

Blog Post

Lokale LLMs mit Ollama und Spring AI nutzen

Egal, ob wir wollen oder nicht, um AI und speziell Large Language Models (LLM) kommen wir aktuell nicht herum. Mich schrecken solche Hypes zwar aus Reflex eher ab. Allerdings sieht es so aus, als würde von diesem Hype mehr bleiben als vom letzten, der Blockchain. Deshalb wollen wir uns in diesem Post einmal anschauen, wie man ein LLM lokal aufsetzen kann und dieses mittels Spring AI in eine Spring Boot-Anwendung einbinden kann.

Blog Post

A natural language calculator

In my prior post I’ve written about how to run a chat with a large-language-model on your PC. This time I want to focus on scripting this with Node.js and letting the AI- and the “normal”-world interact with each other.

Podcast

Large Language Models

Verändern sie alles?

Blog Post

AI Tools in Business Environments

Currently, the importance of AI tools is growing at a breathtaking pace and has also gained importance in the general public. More and more companies and organizations are relying on the advantages of artificial intelligence to improve their processes, increase their productivity, or better serve their customers. AI tools are able to reliably analyze data, recognize patterns, and make predictions that can already surpass human abilities in some areas. This makes them a valuable tool for optimizing business processes and developing innovative products and services. It’s no wonder that the demand for AI tools has exponentially increased in recent years and will continue to grow.

Podcast

Women in Tech: Larysa

Eine Frage des Outfits

Blog Post

Running an AI Chatbot on Your Own PC

Blog Post

How to use Apple Shortcuts to integrate GPT-4o in macOS and iOS

Apple Shortcuts is a powerful app that lets you create custom workflows with multiple steps using your apps and content. You can also use it to interact with web services and APIs, such as OpenAI’s Chat Completions API for GPT-4o, which can generate text completions for any prompt or task. Yup, the thing that’s behind ChatGPT.

Blog Post

How AI will replace my job

In late 2022, I decided to try to use ChatGPT, an AI language processor, to do some of my daily software development work. Now, only a few weeks later, I am convinced AI might soon do most of my current work, at least measured by hours.

Article

KI-Systeme: MLOps, Model Governance und Explainable AI sichern robusten Einsatz

Article

Fairness and Artificial Intelligence

Classical software testing cannot simply be transferred to AI. Model governance and internal audits are required to ensure fairness.

Article

Ethics and Artificial Intelligence

Artificial intelligence is forcing its way into many fields of application. Now it is important that it works in a responsible, secure, and transparent way. The regulation of AI systems is a legal, societal, and technical topic that demands broad awareness and that will become increasingly important in the years to come.

Article

MLOps and Model Governance

Blog Post

Das Test-driven Development für eine Conversational AI

Anlässlich meines kürzlichen Wechsels vom Student zum Consultant schreibe ich in diesem zweiten Blogpost über die Thematik meiner Masterarbeit.

Article

Machine Learning Security – Teil 2

ML kommt immer mehr in sensiblen Entscheidungssystemen zum Einsatz - z.B. in autonomen Fahrzeugen, in der Gesundheitsdiagnostik oder der Kreditwürdigkeitsprüfung. Dies bringt nicht nur neue Möglichkeiten, sondern auch neue Schwachstellen mit sich, die gezielt von Angriffen ausgenutzt werden können. In Teil 2 dieser Artikelserie beschäftigen wir uns mit verschiedenen Angriffstypen in der ML-Security-Landschaft und den dazugehörigen Lösungsvorschlägen.

Article

Machine Learning Security – Teil 1

Eine neue Herausforderung

Security Podcast

Machine Learning Security

„Aus großer Kraft folgt große Verantwortung”

Podcast

Technologiemonster

Welche Konsequenzen hat unser Handeln?

Article

What tracks do we leave behind with technology?

How monsters can teach us about responsibility: INNOQ Digital Art Edition 02

Article

MLOps: You train it, you run it!

Data Science, Machine Learning (ML) und Artificial Intelligence haben in den letzten Jahren einen wahren Hype ausgelöst und viel Aufmerksamkeit in der Industrie bekommen. Man versucht mit Machine Learning Methoden entweder die Produktivität der Nutzer oder die Interaktivität der Applikation zu steigern. Zahlreiche Data Science Teams verbringen ihre Zeit damit Machine Learning Modelle zu trainieren. Allerdings beobachten wir zwei Arten von Problemen, die in der Praxis entstehen. Entweder schafft es die Mehrheit der ML Modelle nicht in ein Softwareprodukt eingebunden zu werden oder das Model Deployment nimmt zu viel Zeit in Anspruch.

Podcast

MLOps

Entwurf, Entwicklung, Betrieb

Article

Machine Learning Daten in den Griff bekommen

Mehrdimensionale Arrays für Machine Learning

Article

Pragmatisch zum Praxiseinsatz von Machine Learning in der Cloud

Die Anzahl von Publikationen zu Computer Vision, Natural Language Processing (NLP) oder Reinforcement Learning ist heutzutage gewaltig. Dabei widmen sich die meisten ausschließlich dem Training. Doch oft müssen Data Scientists auch beim Betrieb ihrer Modelle mitwirken. Dafür braucht es einen pragmatischen und unaufwändigen Weg.

Blog Post

Handling German Text with torchtext

There is a growing list of tools that are ready to be used with non-English texts. We show common ways to integrate them in torchtext and use their language-specific options.