Schwerpunktthema

AI und Machine Learning

Fachartikel, Podcasts, Vorträge und mehr zum Thema AI und Machine Learning.

Generative KI: Das Ende von „zu teuer“ in Unternehmenssoftware?

“Wir haben keine Use Cases gefunden.” — Nein, Sie haben zu viele. Betrachten wir doch mal, wie Generative KI die Unternehmenssoftware über Chatbots hinaus verändern wird. Welche Features werden möglich, die bisher nicht realisierbar oder einfach zu teuer waren?

Blog-Post

LLM-assisted Abbreviation Mining for Legacy Systems

This blog post shows the process of mining abbreviations and discovering first concepts a COBOL legacy mainframe codebase is made of with the help of Large Language Models. It uses Python, pandas and Claude 3.5 Sonnet to generate insights that can be gathered from such a simple thing like a list of files.

Podcast

INNOQ Technology Day

Programm und Behind the Scenes

Artikel

Here’s All You Need To Know To Start Building With Generative AI

Curious on how to start building with Generative AI? This guide covers the basics, from deploying local models to utilizing tools like Huggingface and LangChain. Learn to create your first AI application, manage customer feedback, and grasp key concepts such as context windows and vectorization. Discover practical examples and essential resources to help you get started.

Artikel

Entwicklung eines Datenprodukts mit Databricks

Im modernen Data Engineering geht es v.a. um die Entwicklung modularer Datenprodukte. Dieser Artikel beschreibt die Vorteile von Modularität gegenüber monolithischen Datenpipelines und erklärt Schritt für Schritt, wie sich Datenprodukte mithilfe von Databricks entwickeln lassen – von der Definition eines Data Contracts über die Erstellung und Implementierung von Databricks Asset Bundles bis hin zur Einrichtung einer CI/CD-Pipeline und der Veröffentlichung von Metadaten.

Podcast

KI-unterstützte Entwicklung

ChatGPT im täglichen Einsatz

Podcast

RAG

Abfragen und Bergen von Wissen

Podcast

Enterprise Search mit Vektordatenbanken

Was Vektordatenbanken anders machen als der Suchindex

Podcast

AI Prompting

Kontext ist Gold

Blog-Post

Entwickeln mit ChatGPT

In der Welt der Softwareentwicklung ist das Wissen darüber, wo man Informationen findet, oft wertvoller als alles auswendig zu wissen. Doch was, wenn ein Werkzeug nicht nur Informationen liefert, sondern auch lernt, Probleme zu lösen und beim Entwickeln zu assistieren? In diesem Blog Post berichte ich aus meinem Alltag als Entwicklerin und wie mich ChatGPT bei beruflichen Aufgaben unterstützt - sei es bei der Einarbeitung in neue Programmiersprachen, dem Schreiben von Skripten oder dem Umsetzen von kreativen Ideen.

Blog-Post

Lokale LLMs mit Ollama und Spring AI nutzen

Egal, ob wir wollen oder nicht, um AI und speziell Large Language Models (LLM) kommen wir aktuell nicht herum. Mich schrecken solche Hypes zwar aus Reflex eher ab. Allerdings sieht es so aus, als würde von diesem Hype mehr bleiben als vom letzten, der Blockchain. Deshalb wollen wir uns in diesem Post einmal anschauen, wie man ein LLM lokal aufsetzen kann und dieses mittels Spring AI in eine Spring Boot-Anwendung einbinden kann.

Blog-Post

A natural language calculator

powered by a local LLM and node.js

Podcast

Large Language Models

Verändern sie alles?

Blog-Post

AI Tools im Geschäftsumfeld

Die Bedeutung von AI-Tools wächst derzeit in einem atemberaubenden Tempo und hat auch in der breiten Öffentlichkeit an Bedeutung gewonnen. Immer mehr Unternehmen und Organisationen setzen auf die Vorteile von Künstlichen Intelligenzen, um ihre Prozesse zu verbessern, ihre Produktivität zu steigern oder ihre Kundschaft besser zu bedienen. AI-Tools sind in der Lage, zuverlässig Daten zu analysieren, Muster zu erkennen und Prognosen zu treffen, die die menschliche Fähigkeiten stellenweise bereits übertreffen können. Dies macht sie zu einem wertvollen Werkzeug für die Optimierung von Geschäftsprozessen und für die Entwicklung innovativer Produkte und Dienstleistungen. Kein Wunder also, dass die Nachfrage nach AI-Tools in den letzten Jahren exponentiell gestiegen ist und weiterhin wachsen wird.

Podcast

Women in Tech: Larysa

Eine Frage des Outfits

Blog-Post

Einen KI-Chatbot auf dem eigenen PC laufen lassen

Llama.cpp, gpt4all und andere machen die lokale Ausführung von Large Language Models sehr einfach. Eine kurze Anleitung zum Ausprobieren unter Linux oder macOS.

Blog-Post

How to use Apple Shortcuts to integrate GPT-4o in macOS and iOS

Apple Shortcuts is a powerful app that lets you create custom workflows with multiple steps using your apps and content. You can also use it to interact with web services and APIs, such as OpenAI’s Chat Completions API for GPT-4o, which can generate text completions for any prompt or task. Yup, the thing that’s behind ChatGPT.

Blog-Post

How AI will replace my job

I started using ChatGPT for my work. Here is what it taught me and what AI might hold for the future of software development and consulting

Artikel

KI-Systeme: MLOps, Model Governance und Explainable AI sichern robusten Einsatz

Compliance und Vertrauen: Mit den richtigen Tools und Prozessen lassen sich KI-Systeme wirksam kontrollieren und im Einklang mit rechtlichen Vorgaben betreiben.

Artikel

Fairness und Künstliche Intelligenz

Klassisches Software-Testing lässt sich nicht ohne Weiteres auf KI übertragen. Model Governance und interne Audits sind nötig, um Fairness zu gewährleisten.

Artikel

Ethik und Künstliche Intelligenz

Ein neuer Umgang mit KI-Systemen

Artikel

MLOps und Model Governance

MLOps und Model Governance werden oft als separate Prozesse wahrgenommen. Dabei hängt das eine stark mit dem anderen zusammen. In diesem Artikel möchten wir daher die Integration von Model Governance und MLOps vorstellen und die wichtigsten Prinzipien und technischen Komponenten für MLOps und ML Model Governance erklären.

Blog-Post

Das Test-driven Development für eine Conversational AI

Anlässlich meines kürzlichen Wechsels vom Student zum Consultant schreibe ich in diesem zweiten Blogpost über die Thematik meiner Masterarbeit.

Artikel

Machine Learning Security – Teil 2

Eine neue Herausforderung

Artikel

Machine Learning Security – Teil 1

Machine Learning kommt immer mehr in sensiblen Entscheidungssystemen zum Einsatz. Dies bringt nicht nur neue Möglichkeiten, sondern auch neue Schwachstellen mit sich, die gezielt von Angriffen ausgenutzt werden können. In Teil 1 dieses Artikels navigieren wir uns Stück für Stück durch die ML Security Taxonomie und nehmen die Perspektive des Angriffs ein.

Security Podcast

Machine Learning Security

„Aus großer Kraft folgt große Verantwortung”

Podcast

Technologiemonster

Welche Konsequenzen hat unser Handeln?

Artikel

Welche Spuren hinterlassen wir mit Technologie?

Bei INNOQ setzen wir uns immer mehr mit KI und Machine Learning auseinander, allerdings mit ihrem sinnvollen Einsatz bei unseren Kunden und Projekten. Beste Voraussetzungen also für einen spannenden Diskurs.

Artikel

MLOps: You train it, you run it!

Data Science, Machine Learning (ML) und Artificial Intelligence haben in den letzten Jahren einen wahren Hype ausgelöst und viel Aufmerksamkeit in der Industrie bekommen. Man versucht mit Machine Learning Methoden entweder die Produktivität der Nutzer oder die Interaktivität der Applikation zu steigern. Zahlreiche Data Science Teams verbringen ihre Zeit damit Machine Learning Modelle zu trainieren. Allerdings beobachten wir zwei Arten von Problemen, die in der Praxis entstehen. Entweder schafft es die Mehrheit der ML Modelle nicht in ein Softwareprodukt eingebunden zu werden oder das Model Deployment nimmt zu viel Zeit in Anspruch.

Podcast

MLOps

Entwurf, Entwicklung, Betrieb

Artikel

Machine Learning Daten in den Griff bekommen

Für viele Verfahren im Bereich Datenanalyse und Machine Learning werden mehrdimensionale Arrays benötigt. Da oft mit großen Datenmengen gearbeitet wird, ist es, neben anderen Optimierungen, wünschenswert eine Array Implementierung zu verwenden, die auf hohe Performance und geringen Speicherverbrauch optimiert ist. Viele Frameworks setzen deshalb auf ndarrays von numpy oder eigene Implementierungen statt die Standard Listen- oder Arrayimplementierungen von Python zu verwenden.

Artikel

Pragmatisch zum Praxiseinsatz von Machine Learning in der Cloud

Die Anzahl von Publikationen zu Computer Vision, Natural Language Processing (NLP) oder Reinforcement Learning ist heutzutage gewaltig. Dabei widmen sich die meisten ausschließlich dem Training. Doch oft müssen Data Scientists auch beim Betrieb ihrer Modelle mitwirken. Dafür braucht es einen pragmatischen und unaufwändigen Weg.

Blog-Post

Handling German Text with torchtext

Some nasty details on dealing with non-English text

Artikel

Vorgehensweise für maschinelles Lernen als Orientierung

Eine Vielzahl von hochentwickelten Technologien für maschinelles Lernen ist als Open Source frei verfügbar. Dennoch zeigt sich, dass es nur vergleichsweise wenige Anwender gibt, die diese Technologie in Produkten erfolgreich einzusetzen. Maschinelles Lernen ist ein sehr vielschichtiger und komplexer Bereich der Informatik und darüber hinaus ein Gebiet aktiver Forschung. Einsteiger können insbesondere im Bereich Deep Learning dadurch schnell den Eindruck gewinnen dass eine Einarbeitung nur auf hohem wissenschaftlichen Niveau möglich ist. Es gibt jedoch durchaus auch praxisorientierte Quellen. Viele Informationen sind nur in englischer Sprache verfügbar, daher verweist der Artikel auf englische Quellen.

Podcast