Vortrag

Faktenbasierte LLM-Chatbots für Deine Domäne

Große Sprachmodelle (LLM) sind eine neue Technologie, die die Welt in kürzester Zeit erobert hat. KI-Chatbots wie ChatGPT haben KI durch die Verwendung natürlicher Sprache steuerbar und damit für die breite Öffentlichkeit zugänglich und äußerst nützlich gemacht.

Die meisten Menschen haben wahrscheinlich schon mit diesem oder einem anderen Chatbot experimentiert und ähnliche Erfahrungen gemacht: Sie wissen auf fast jede Frage eine Antwort, schreiben detaillierte Texte und reagieren sogar auf Gegenfragen. Dabei gibt es ein großes Problem: Die Chatbots halluzinieren, d.h. sie erfinden Inhalte, die richtig klingen, aber nicht richtig sind. Außerdem ist es aufgrund der riesigen Menge an Trainingsdaten nicht mehr möglich, zu rekonstruieren, woher eine Information stammt.

Wir haben uns mit diesem Problem auseinandergesetzt und versucht, eine Lösung zu finden, bei der ein Chatbot seine Antworten innerhalb einer bestimmten Domäne aufbaut und Quellen für die Herkunft der verwendeten Informationen aus der Domäne angibt. Solche wissensbasierten Chatbots können in praktisch jedem Bereich eingesetzt werden, z. B. zum Chatten mit Dokumentationen, Inhalten einer Datenbank oder einer Website, unter Verwendung natürlicher Sprache, ohne das Risiko von Halluzinationen. Wir haben auch Ideen wie die Verwendung von Open-Source-LLMs (z. B. LLama2), Skalierbarkeit und Kostenmanagement untersucht.

Datum
10.01.2024
Uhrzeit
12:15 - 13:00
Online Event
INNOQ Technology Lunch 01/24
  • Folie 1
    1/150
  • Folie 2
    2/150
  • Folie 3
    3/150
  • Folie 4
    4/150
  • Folie 5
    5/150
  • Folie 6
    6/150
  • Folie 7
    7/150
  • Folie 8
    8/150
  • Folie 9
    9/150
  • Folie 10
    10/150
  • Folie 11
    11/150
  • Folie 12
    12/150
  • Folie 13
    13/150
  • Folie 14
    14/150
  • Folie 15
    15/150
  • Folie 16
    16/150
  • Folie 17
    17/150
  • Folie 18
    18/150
  • Folie 19
    19/150
  • Folie 20
    20/150
  • Folie 21
    21/150
  • Folie 22
    22/150
  • Folie 23
    23/150
  • Folie 24
    24/150
  • Folie 25
    25/150
  • Folie 26
    26/150
  • Folie 27
    27/150
  • Folie 28
    28/150
  • Folie 29
    29/150
  • Folie 30
    30/150
  • Folie 31
    31/150
  • Folie 32
    32/150
  • Folie 33
    33/150
  • Folie 34
    34/150
  • Folie 35
    35/150
  • Folie 36
    36/150
  • Folie 37
    37/150
  • Folie 38
    38/150
  • Folie 39
    39/150
  • Folie 40
    40/150
  • Folie 41
    41/150
  • Folie 42
    42/150
  • Folie 43
    43/150
  • Folie 44
    44/150
  • Folie 45
    45/150
  • Folie 46
    46/150
  • Folie 47
    47/150
  • Folie 48
    48/150
  • Folie 49
    49/150
  • Folie 50
    50/150
  • Folie 51
    51/150
  • Folie 52
    52/150
  • Folie 53
    53/150
  • Folie 54
    54/150
  • Folie 55
    55/150
  • Folie 56
    56/150
  • Folie 57
    57/150
  • Folie 58
    58/150
  • Folie 59
    59/150
  • Folie 60
    60/150
  • Folie 61
    61/150
  • Folie 62
    62/150
  • Folie 63
    63/150
  • Folie 64
    64/150
  • Folie 65
    65/150
  • Folie 66
    66/150
  • Folie 67
    67/150
  • Folie 68
    68/150
  • Folie 69
    69/150
  • Folie 70
    70/150
  • Folie 71
    71/150
  • Folie 72
    72/150
  • Folie 73
    73/150
  • Folie 74
    74/150
  • Folie 75
    75/150
  • Folie 76
    76/150
  • Folie 77
    77/150
  • Folie 78
    78/150
  • Folie 79
    79/150
  • Folie 80
    80/150
  • Folie 81
    81/150
  • Folie 82
    82/150
  • Folie 83
    83/150
  • Folie 84
    84/150
  • Folie 85
    85/150
  • Folie 86
    86/150
  • Folie 87
    87/150
  • Folie 88
    88/150
  • Folie 89
    89/150
  • Folie 90
    90/150
  • Folie 91
    91/150
  • Folie 92
    92/150
  • Folie 93
    93/150
  • Folie 94
    94/150
  • Folie 95
    95/150
  • Folie 96
    96/150
  • Folie 97
    97/150
  • Folie 98
    98/150
  • Folie 99
    99/150
  • Folie 100
    100/150
  • Folie 101
    101/150
  • Folie 102
    102/150
  • Folie 103
    103/150
  • Folie 104
    104/150
  • Folie 105
    105/150
  • Folie 106
    106/150
  • Folie 107
    107/150
  • Folie 108
    108/150
  • Folie 109
    109/150
  • Folie 110
    110/150
  • Folie 111
    111/150
  • Folie 112
    112/150
  • Folie 113
    113/150
  • Folie 114
    114/150
  • Folie 115
    115/150
  • Folie 116
    116/150
  • Folie 117
    117/150
  • Folie 118
    118/150
  • Folie 119
    119/150
  • Folie 120
    120/150
  • Folie 121
    121/150
  • Folie 122
    122/150
  • Folie 123
    123/150
  • Folie 124
    124/150
  • Folie 125
    125/150
  • Folie 126
    126/150
  • Folie 127
    127/150
  • Folie 128
    128/150
  • Folie 129
    129/150
  • Folie 130
    130/150
  • Folie 131
    131/150
  • Folie 132
    132/150
  • Folie 133
    133/150
  • Folie 134
    134/150
  • Folie 135
    135/150
  • Folie 136
    136/150
  • Folie 137
    137/150
  • Folie 138
    138/150
  • Folie 139
    139/150
  • Folie 140
    140/150
  • Folie 141
    141/150
  • Folie 142
    142/150
  • Folie 143
    143/150
  • Folie 144
    144/150
  • Folie 145
    145/150
  • Folie 146
    146/150
  • Folie 147
    147/150
  • Folie 148
    148/150
  • Folie 149
    149/150
  • Folie 150
    150/150

Nach links wischen, um ggf. weitere Folien zu sehen

Scrollen oder die Pfeiltasten nutzen, um ggf. weitere Folien zu sehen

Scrollen, um ggf. weitere Folien zu sehen

Die Pfeiltasten nutzen, um ggf. weitere Folien zu sehen

Folien downloaden