← Fogalomtár
Fogalom
Guardrail (Korlát)
A mesterséges intelligencia modellbe épített, vagy köré felhúzott biztonsági szabályrendszer, amely megakadályozza a káros, illegális vagy nem kívánt tartalmak generálását.
Analógia
A bowlingpálya szélére felhúzott rácsokhoz hasonlít, amik megakadályozzák, hogy a golyó (az AI válasza) a csatornába guruljon és teljesen tönkretegye az adott kört.
Miért fontos?
Üzleti környezetben kritikus, hogy egy cég által használt ügyfélszolgálati vagy belső AI ne adjon sértő válaszokat, és ne szivárogtasson ki bizalmas adatokat. Ha ezek a korlátok nincsenek jól beállítva, egyetlen rosszindulatú kérdés komoly reputációs és jogi károkat okozhat a vállalatnak.