Named entity recognition: entiti, label dan batas rentang
Oleh Ai Flowi · Diterbitkan
Named entity recognition (NER), atau pengecaman entiti bernama, mengenal pasti sebutan dalam teks dan memberikan jenis entiti kepada rentang teksnya, seperti PERSON, ORG atau LOCATION. Hasilnya menerangkan lokasi sebutan dan cara ia dilabelkan, bukannya memberikan satu topik kepada seluruh dokumen. Mengecam nama tidak membuktikan identiti sebenar di sebaliknya.
Berkaitan: Knowledge graph: modelkan entiti, hubungan dan bukti.
Sebutan, jenis dan batas teks sumber
Sebutan ialah kemunculan tertentu dalam sumber tertentu. Jika nama muncul dua kali, terdapat dua sebutan walaupun kedua-duanya mungkin merujuk kepada entiti yang sama. Jenis entiti menerangkan kategori anotasi. Set label bergantung pada tugas: sesetengah skema anotasi merangkumi tarikh dan ungkapan angka, manakala yang lain mengehadkan senarai kepada orang, organisasi dan tempat yang bernama.
Batas rentang teks sama penting dengan kategorinya. Melabelkan hanya perkataan terakhir bagi nama organisasi yang terdiri daripada beberapa perkataan menghasilkan sebutan yang tidak lengkap. Memasukkan tanda baca di sekelilingnya boleh melanggar dasar anotasi walaupun organisasi yang dimaksudkan jelas. Tentukan sama ada gelaran, penanda milik dan singkatan termasuk dalam rentang sebelum meminta orang atau model membuat anotasi.
Untuk ofset, nyatakan unit pengiraan dan sama ada kedudukan akhir termasuk dalam rentang. Ofset bait, ofset titik kod Unicode dan ofset unit kod UTF-16 boleh berbeza. Semakan sumber atau langkah penormalan juga boleh mengalihkan batas. Kekalkan versi sumber tepat yang digunakan untuk anotasi, bukannya menggunakan ofset pada teks yang telah disunting.
Perenggan sintetik dengan anotasi rujukan
Teks rekaan dan label rujukan sebagai ilustrasi; tiada output model atau hasil ketepatan dilaporkan. Dalam skema pengajaran ini, DATE ialah jenis yang dibenarkan, singkatan organisasi menerima rekod sebutan berasingan, dan sebutan bersarang dikecualikan.
Mira Chen bertemu Northbank Labs (NBL) di Penang pada 12 Mac. Mira kemudian melawat University of Penang. Jordan turut serta dari jarak jauh.
| Subrentetan sumber yang tepat | Jenis | Soalan tentang batas atau identiti |
|---|---|---|
| Mira Chen | PERSON | Sertakan nama penuh, tanpa kata kerja yang menyusulinya. |
| Northbank Labs | ORG | Tanda kurungan berada di luar rentang. |
| NBL | ORG | Sebutan singkatan yang berasingan; konteks menunjukkan hubungannya sebagai nama lain. |
| Penang | LOCATION | Kemunculan ini mengenal pasti lokasi pertemuan. |
| 12 Mac | DATE | Tahun tidak dinyatakan dan perlu kekal belum dipastikan. |
| Mira | PERSON | Sebutan pendek yang berulang; jangan reka nama keluarga dalam teks rentangnya. |
| University of Penang | ORG | Di bawah dasar tanpa anotasi bersarang ini, Penang di dalam nama tersebut bukan anotasi lokasi tambahan. |
| Jordan | PERSON | Tindakan menyertai pertemuan menjadi asas jenis dalam ilustrasi ini; identiti individu masih tidak diketahui. |
Perenggan itu menyokong hubungan singkatan antara Northbank Labs dengan NBL. Ia tidak membuktikan pengecam pendaftaran bagi organisasi tersebut. Sebutan Mira yang kemudian mungkin merujuk kepada Mira Chen, tetapi mengaitkan sebutan ialah keputusan yang berasingan daripada mengekalkan teks tepatnya.
Jordan boleh menjadi nama orang atau tempat dalam ayat lain. Contoh berbeza seperti “Jordan muncul pada peta” memerlukan anotasi berdasarkan konteksnya sendiri. Jika teks yang dibekalkan hanya menyatakan “Jordan dibincangkan,” dasar pengajaran ini membiarkan jenisnya belum dipastikan untuk semakan. Apabila konteks tidak dapat menentukan jenis yang dibenarkan, simpan rekod semakan yang menunjukkan ketidakpastian, bukannya memaksa suatu kategori.
Apakah perbezaan antara pengekstrakan entiti dengan pemautan entiti?
Pengekstrakan entiti kadangkala digunakan secara luas untuk pengumpulan nama atau medan perniagaan. NER mempunyai kontrak sebutan dan jenis yang lebih khusus. Pengekstrak dokumen mungkin mengembalikan nama pembekal, tarikh invois dan amaun perlu dibayar tanpa membuat anotasi bagi setiap kemunculan nilai tersebut. Rujuk Document AI untuk tugas pengekstrakan medan itu.
Pemautan entiti mengaitkan sebutan dengan rekod dalam pangkalan pengetahuan atau sistem identiti lain. Ia memerlukan bukti selain padanan rentetan. Dua organisasi boleh berkongsi nama; satu organisasi boleh menggunakan beberapa nama. Kata-kata model yang yakin mahupun rentang ORG yang sah tidak membuktikan entiti berdaftar yang dimaksudkan.
Koreferensi berkaitan dengan sebutan yang merujuk kepada perkara yang sama, termasuk ungkapan seperti “dia” atau “makmal itu.” Ungkapan tersebut mungkin berada di luar senarai entiti bernama. Kekalkan pengesanan sebutan, pengelompokan nama lain dan carian identiti sebagai output berasingan supaya ketidakpastian dalam satu output tidak berubah menjadi kepastian dalam output lain secara senyap.
Nilai ralat rentang secara berasingan daripada ralat jenis
| Ramalan andaian | Ralat | Perkara yang perlu diperiksa |
|---|---|---|
| Labs / ORG | Batas yang salah. | Rujukan merangkumi Northbank Labs. |
| Northbank Labs / LOCATION | Rentang betul, jenis salah. | Kategori organisasi berbanding geografi. |
| Tiada sebutan NBL | Sebutan terlepas. | Liputan singkatan. |
| Mac / PERSON | Sebutan dan jenis tidak disokong. | Dasar tarikh dan perkataan di sekelilingnya. |
Dalam padanan rentang dan jenis yang tepat, ramalan hanya betul jika kedudukan mula, kedudukan akhir dan labelnya semuanya sepadan dengan rujukan. Kejituan membandingkan ramalan betul dengan semua ramalan; dapatan semula membandingkan ramalan betul dengan semua sebutan rujukan. Ketidakpadanan batas boleh menghasilkan ramalan yang tidak sepadan dan sebutan rujukan yang terlepas pada masa yang sama. Nyatakan peraturan pemarkahan sebelum mengira hasil.
Skor pertindihan separa menjawab soalan berbeza dan perlu dilaporkan secara berasingan. Sertakan nama berulang, singkatan, calon bersarang dan kes yang tidak diketahui dalam set anotasi yang diasingkan daripada pembangunan. Selesaikan percanggahan tentang dasar sebelum menganggapnya sebagai ralat model; label rujukan hanya berguna apabila peraturannya dapat diterapkan semula secara konsisten.
Cadangan NER dalam AI Flowi Workflow
Entri katalog Structured Output dan rujukan Language Model menyediakan antara muka bersama untuk cadangan anotasi sebutan di bawah.
Untuk perenggan ini, padanan sumber sahaja tidak dapat menentukan kemunculan Penang yang dianotasi. Lokasi yang berdiri sendiri dan perkataan dalam University of Penang kedua-duanya sepadan dengan subrentetan yang sama. Di bawah dasar tanpa anotasi bersarang yang dinyatakan, hanya kemunculan pertama ialah sebutan LOCATION. Kekalkan penunjuk lokasi sumber bagi setiap cadangan supaya penyemak dapat membezakan anotasi lokasi yang sah daripada calon bersarang yang dikecualikan.
contoh konfigurasi, bukan ujian yang direkodkan
Gunakan akaun penyedia model/kunci API anda sendiri dan teks sintetik yang dibenarkan; penyedia dibilkan secara berasingan. Konfigurasikan Language Model.model untuk penyedia tersebut. Sambungkan model_output komponen itu kepada Structured Output.model. Letakkan perenggan dalam input_value, tetapkan schema_name kepada mention_annotations, dan gunakan system_prompt untuk menyatakan dasar label tanpa anotasi bersarang, subrentetan tepat dan keadaan yang belum dipastikan.
Konfigurasikan output_schema sebagai Table skema yang telah diperiksa untuk teks sebutan, jenis entiti, rujukan sumber dan batas yang dicadangkan. Ini ialah medan aplikasi; halaman ini tidak membekalkan muatan skema yang boleh diimport. Artifak yang dijangka ialah koleksi anotasi cadangan untuk semakan, bukan hasil anotasi yang didakwa sah. Structured Output didokumenkan dalam katalog; belum diuji dalam persekitaran produksi oleh Ai Flowi.
Semakan sebelum menggunakan anotasi
Cari setiap subrentetan yang dicadangkan dalam sumber yang dikekalkan. Bagi teks berulang, semak kemunculan dan ofset yang dicadangkan, bukan hanya sama ada nama itu muncul di mana-mana. Tolak peluasan rekaan, batas di luar julat dan label yang tiada dalam senarai tugas. Semakan subrentetan deterministik mengesahkan lokasi; kategori masih perlu dinilai oleh seseorang atau berdasarkan rujukan yang telah disemak.
Jangan gunakan NER sahaja untuk mengesahkan identiti atau membuang setiap rujukan sensitif daripada dokumen: sebutan yang terlepas dan tidak langsung memerlukan pengendalian tambahan. Rujuk kes penggunaan untuk skop aliran kerja sedia ada, pengelasan teks untuk label dokumen dan output berstruktur LLM untuk batas format respons.