Potenzial birgt Risiken

Es ist unbestreitbar, dass sich künstliche Intelligenz (KI) zunehmend als wirkungsvolles Instrument zur Unterstützung von Arbeitnehmern und zur Erleichterung des menschlichen Lebens erweist. Allerdings sind diese Technologieprodukte wie ein „zweischneidiges Schwert“, wenn sie von Kriminellen für Betrug und Angriffe im Cyberspace missbraucht werden.

Warnmeldungen der Abteilung für Informationssicherheit (Ministerium für Information und Kommunikation) oder der Cyber ​​Security Association verweisen auf zahlreiche registrierte Betrugsfälle unter Einsatz von KI-Technologie. Beispielsweise chattete Frau Nguyen Thanh T, eine Büroangestellte in Hanoi, mit einer Freundin über Facebook Messenger. Diese verabschiedete sich von ihr und beendete das Gespräch, schrieb ihr aber plötzlich eine SMS, in der sie um Geld bat und vorschlug, das Geld auf ein Bankkonto zu überweisen. Obwohl der Kontoname mit dem Namen ihrer Freundin übereinstimmte, war Frau T misstrauisch und forderte zur Überprüfung einen Videoanruf an. Der Freund stimmte sofort zu, aber das Gespräch dauerte aufgrund eines „unterbrochenen Netzwerks“ nur wenige Sekunden.

Als Frau T. das Gesicht ihrer Freundin im Videoanruf sah und die Stimme richtig war, überwies sie das Geld. Doch erst nach erfolgreicher Geldüberweisung wurde ihr klar, dass sie in eine Hackerfalle getappt war.

Nicht nur Frau T., sondern auch viele andere Opfer, Freunde und Verwandte wurden auf die gleiche Weise getäuscht. Die Summen, die Kriminelle durch die Nachahmung von Identitäten mithilfe von Deepfake-Tools und -Stimmen ergaunert haben, liegen im zweistelligen Millionenbereich.

Ein weiteres typisches Beispiel für den Einsatz von KI zur Aneignung von Vermögenswerten ist der Fall von Herrn NTH: Betrüger stellen ihm auf einem Android-Telefon eine Falle mit Anweisungen zur Installation eines bösartigen Links. Von dort aus übernimmt es die Kontrolle über Telefone und Bankkonten, um Geld an Dritte zu überweisen. Darüber hinaus nimmt die Malware automatisch Kontakt zu verfügbaren Kontaktinformationen auf und versendet automatische Nachrichten mit der Aufforderung zur Geldüberweisung.

Herr NTH sagte, der Betrüger habe sich als „Polizist“ ausgegeben, seine Telefonnummer angerufen und ihn gebeten, seine persönlichen Identifikationsdaten zu bestätigen. Da das Opfer alt, technisch nicht versiert und leichtgläubig war, übergab es sein Telefon einer dritten Person, die den Anweisungen des Betrügers folgte und die schädliche Anwendung „DichVuCong.apk“ auf sein Telefon herunterlud und installierte.

Herr Tran Nguyen Chung, Leiter der Abteilung für Informationssystemsicherheit (Abteilung Informationssicherheit), sagte: „Mit der Entwicklung der KI-Technologie wird es schwieriger, echte und gefälschte Inhalte im Cyberspace zu erkennen und zu unterscheiden, und jeder kann zum Ziel und Opfer von Cyberangriffen durch Kriminelle werden, die KI-Technologie einsetzen.“ Ob Sie jedoch Opfer werden oder nicht, hängt davon ab, wie gut Sie sich mit dem notwendigen Wissen und den notwendigen Informationen ausstatten.

Dieser Fall von KI-Technologiebetrug tritt nicht nur in Vietnam, sondern in vielen Ländern weltweit auf. Derzeit arbeiten Behörden, Organisationen und große Technologiekonzerne gemeinsam an der Entwicklung von Maßnahmen und technischen Lösungen, um die Ursachen zu erkennen und zu verhindern.

In der gegenwärtigen Zeit besteht die wichtige Maßnahme darin, Propaganda zu fördern und die Menschen für Methoden, Tricks und Möglichkeiten zu sensibilisieren, diese raffinierte Form der Fälschung zu erkennen und damit umzugehen, um dazu beizutragen, die Auswirkungen von Deepfakes auf Aktivitäten im Cyberspace zu verringern und zu begrenzen. Geben Sie proaktiv umfassende Warnungen in den Massenmedien heraus, wenn es neue Entwicklungen und Formen des Betrugs gibt.

„Wenn man Drohanrufe mit sensiblen Bildern oder Videos erhält, muss man Ruhe bewahren und die Herkunft der Bilder und Videos überprüfen und sorgfältig recherchieren“, sagte Tran Nguyen Trung.

Laut dem Forschungsbericht „Identifizierung von Risiken für die Weltwirtschaft im Jahr 2024“ der University of Economics (UEB) der Vietnam National University in Hanoi ist eines der Risiken für die Weltwirtschaft das Risiko im Technologiesektor. Der Bericht argumentiert, dass die Regulierungspolitik angesichts der rasanten Entwicklung der KI noch nicht mit der Entwicklung der KI Schritt halten kann. Von KI erzeugte Fehlinformationen, insbesondere in einem Jahr mit vielen Wahlen auf der ganzen Welt wie diesem, stellen weltweit zahlreiche Probleme für Sicherheit, Politik, Verteidigung und Frieden dar.

In einem Gespräch mit Reportern der Zeitung Tin Tuc erklärte der stellvertretende Minister für Wissenschaft und Technologie, Nguyen Hoang Giang: „Der Premierminister hat den Beschluss Nr. 127/2021 zur nationalen Forschungsstrategie, Entwicklung und Anwendung künstlicher Intelligenz bis 2030 erlassen. Das Ministerium für Wissenschaft und Technologie sowie andere Ministerien und Zweige haben zur Umsetzung drastische und gleichzeitige Maßnahmen ergriffen, etwa das Justizministerium, das den rechtlichen Aspekt erforscht. Das Ministerium für Information und Kommunikation erforscht digitale Technologien. Das Ministerium für Wissenschaft und Technologie hat auch Industrie 4.0 unterstützt, erforscht und entwickelt und die Entwicklung von Informationstechnologien erforscht und angewendet, die der Entwicklung digitaler und intelligenter Städte dienen. Mit der schnellen und starken Entwicklung sind jedoch auch die negativen Aspekte und Risiken der KI zutage getreten, wenn sie missbraucht wird, um von Cyberkriminellen zu Betrug, Identitätsbetrug, Drohungen, Eigentumsaneignung usw. missbraucht zu werden.

Bislang arbeiten das Ministerium für Wissenschaft und Technologie und die Regierung neben der Forschung auch aktiv an der Schaffung eines rechtlichen Rahmens und lernen dabei von den Erfahrungen anderer Industrieländer, damit der KI-Bereich in Vietnam sein Potenzial entfalten und seine Entwicklung vorantreiben kann und gleichzeitig eine strenge Kontrolle sowie die Gewährleistung von Ethik und Menschlichkeit im Bereich der künstlichen Intelligenz gewährleistet ist.

Die rasante Entwicklung von KI-Tools hat viele Fragen hinsichtlich Menschenrechten, Ethik, Datenschutz, Informationssicherheit und rechtlicher Verantwortung aufgeworfen. Im weltweiten Vergleich befindet sich Vietnam noch in einem frühen Stadium der KI-Entwicklung. Daher besteht Bedarf an spezifischen KI-Vorschriften und -Richtlinien, die für alle Aspekte des Lebens, der Wirtschaft und der Gesellschaft in Vietnam geeignet sind.

Dringend rechtliche Rahmenbedingungen schaffen

Auch der Umgang mit der Schattenseite der KI ist ein Thema, das in einigen Ländern diskutiert wird. Das Parlament der Europäischen Union hat den weltweit ersten Satz grundlegender Regeln zur Regulierung künstlicher Intelligenz verabschiedet. Viele Technologieexperten sind davon überzeugt, dass dieser Kodex der EU dabei helfen wird, beide Ziele zu erreichen: die negativen Auswirkungen technologischer Entwicklungen auf die Nutzer zu minimieren und gleichzeitig die marktbeherrschende Stellung wichtiger Wettbewerber einzuholen.

Kurz darauf verabschiedete die Generalversammlung der Vereinten Nationen eine Resolution zur künstlichen Intelligenz (KI), in der sie weltweite Unterstützung für die internationalen Bemühungen zusagte, sicherzustellen, dass diese neue Technologie allen Ländern zugutekommt, die Menschenrechte achtet und „sicher, geschützt und vertrauenswürdig“ ist.

Herr Vu Ngoc Son, Technischer Direktor der National Cyber ​​Security Technology Joint Stock Company, sagte: „KI ist eine Technologie, die menschlichen Interessen dient und die Automatisierung vieler verschiedener Betriebsphasen unterstützt. Sie ist ein leistungsstarkes Werkzeug, das für viele verschiedene Zwecke eingesetzt wird, beispielsweise für die Bereitstellung von Q&A-Diensten oder die Softwareentwicklung. KI hat jedoch auch negative Seiten, wenn sie in die Hände von Angreifern fällt, die betrügerische Inhalte und Schadcodes erstellen, um Benutzer anzugreifen. KI ist daher kein Werkzeug, das speziell für die Produktentwicklung oder Kriminalität bestimmt ist. Die wichtige Frage ist vielmehr, wie man KI einsetzt.“

„Ich denke, dass Sanktionen und rechtliche Rahmenbedingungen der Geschwindigkeit der KI-Entwicklung nicht wirklich gerecht werden. Wir brauchen Zeit, um Richtlinien zu entwickeln und einzuführen, die die Risiken von KI begrenzen, wenn sie für schlechte Zwecke eingesetzt wird und Menschenrechte sowie Sicherheit, Ordnung und soziale Sicherheit beeinträchtigt“, sagte Vu Ngoc Son.

Dr. Dang Minh Tuan, Direktor des CMC ATI Institute, sagte: „Einerseits müssen wir weiterhin neue Technologien erforschen und entwickeln sowie KI-Tricks für schädliche Zwecke entwickeln und untersuchen. Andererseits müssen wir Ehrlichkeit in Wissenschaft und Arbeit fördern. Daher sind Anpassungen und Investitionen in Inhalte und spezifische Richtlinien für dieses Tool in Vietnam erforderlich. Insbesondere können wir KI-Tools auch zur Erkennung schädlicher Inhalte und Codes einsetzen. KI ist ein zweischneidiges Schwert: Sie schafft einen kontinuierlichen, kontinuierlichen und sich ständig verbessernden Prozess, der letztlich den menschlichen Interessen dient.“

Experten zufolge besteht die Notwendigkeit darin, die Entwicklung von Hochtechnologieprodukten verantwortungsvoll zu kontrollieren, denn wenn es nicht gelingt, die Technologie zu regulieren und zu beherrschen, wird dies zu unvorhersehbaren Konsequenzen führen, die der Wirtschaft Verluste zufügen und jeden Einzelnen sowie die Gesellschaft als Ganzes betreffen.

Die Veröffentlichung spezifischer und transparenter Vorschriften wird nicht nur dazu beitragen, die Risiken, die durch KI entstehen können, zu verhindern und zu minimieren, sondern Vietnam auch dabei helfen, die Aufmerksamkeit und Investitionen der weltweit führenden Technologieunternehmen auf sich zu ziehen und so die Entwicklung der heimischen Informationstechnologie- und KI-Branche zu fördern.

Letzter Artikel: Parallele Entwicklung und Kontrolle von KI