Vietnamese Parser Issues (still)

G’day Comrades,

Continuing to have issues with the Vietnamese parser (raised here, but it seems to be deteriorating).

Per screenshots attached, text copied in to the input feature is not accurately replicated in the actual lesson. I imagine this is some sort of attempt at text normalisation, but (as raised in the link above several months ago which does not seem to have been actioned in any way) the parser doesn’t seem to be appropriately handling the different ways Vietnamese text can be encoded (precomposed as a whole character complete with diacritics, or decomposed as a base letter with additional encoding for diacritics).

As a result, some text (probably decomposed) is being rendered incorrectly - see example below for perfectly legible input text being presented with missing and duplicated letters. As suggested previously, this (as well as the duplicate LingQs issue previously complained of with no action) would likely be fixed with better text normalisation that just put all vietnamese input into precomposed (NFC) form. Vietnamese is not a beta language - it needs to be able handle this.

This isn’t an open source project - it’s paid (quite well at the Premium Plus tier). The recent issues on misaligned LingQs occurred in the several days leading up to a certification exam for me, causing quite a bit of disruption to something quite important. It is becoming harder and harder to justify paying for this service when these issues (which impact basic features of the site) occur regularly and without warning, and only seem to be actioned after widespread complaints.

Would greatly appreciate some info on the plan to remediate this and the other duplicate LingQ issue that seem to both be caused by text normalisation.

Confirming that it is indeed unicode normalisation that’s causing it. Importing the same lesson after running the text through a tool like Unicode text normalizer entirely solves it.

I shouldn’t have to do this for input text - I’d greatly appreciate if this could be added into the import pipeline to remove this happening in the future.

Thanks for reporting. I will forward this to our team.

Hello @Trafs Could you please import new lesson and check how it is now? Is it better?

Hi Iryna,

Nope. Please see lesson at link - Login - LingQ per screenshot below:

That was generated from the text below (pastes into forum fine - something in the import pipeline is leading to the corruption above).

Confirming that when I use the unicode normaliser above, it goes fine, so it is related to text encoding. I presume it is the same issue that very regularly leads to me having duplicate LingQs for what appears to be the same word. In addition to fixing imports, it would be great if it could do a run over existing lessons to normalise them all to the same encoding scheme - and remove duplicate LingQs.


Lesson text (unsure if this will have been normalised by pasting it in the forum or not):

Hội đàm quốc phòng Việt Nam – Vương quốc Anh

Theo Quân Đội Nhân Dân- 28/01/2013- 19:00

Từ ngày 26 đến 30-1, Đoàn đại biêu Bộ Quốc phòng Vương quốc Anh do Huân tước Lord Astor, Thứ trưởng Bộ Quốc phòng dẫn đầu đã có chuyến thăm hữu nghị Việt Nam theo lời mời của Thượng tướng Nguyễn Chí Vịnh, Thứ trưởng Bộ Quốc phòng.

Sáng 28-1, tại trụ sở Bộ Quốc pḥong, hai đoàn đã tiến hành hội đàm.

Trước đó, Thượng tướng Nguyễn Chí Vịnh và Huân tước Lord Astor đã đồng chủ trì lễ khai mạc Diễn đàn Doanh nghiệp quốc phòng Việt Nam-Anh tại Hà Nội.

Tại cuộc hội đàm, trên tinh thần làm việc khẩn trương, hai bên đã trao đổi một số vấn đề về tình hình quốc tế, khu vực và ở mỗi nước; đánh giá kết quả hợp tác giữa hai Bộ Quốc phòng trong thời gian qua đồng thời cùng đề xuất và thảo luận phương hướng thúc đẩy hợp tác quốc phòng song phương trong thời gian tới.

Hai bên cho rằng, kể từ khi hai Bộ Quốc phòng ký Bản ghi nhớ về hợp tác quốc phòng song phương vào tháng 11-2011 tới nay, hợp tác quốc phòng song phương đã đạt được nhiều kết quả tích cực, các nội dung hợp tác cụ thể đã được các cơ quan chức năng của hai Quân đội triển khai đúng lịch trình, mang lại hiệu quả thiết thực.

Nhằm thúc đẩy hơn nữa những kết quả đã đạt được, Thượng tướng Nguyễn Chí Vịnh đề nghị Bộ Quốc phòng hai nước cần tăng cường trao đổi về mặt chiến lược, cụ thể là xem xét thiết lập cơ chế đối thoại chiến lược quốc phòng thường niên cấp Thứ trưởng Bộ Quốc phòng; mong muốn các cơ quan nghiên cứu chiến lược của hai Quân đội tăng cường gặp gỡ, trao đổi kinh nghiệm. Đoàn Việt Nam cũng đề nghị hai bên xem xét việc thiết lập văn phòng tùy viên quân sự tại mỗi nước nhằm tạo điều kiện thuận lợi cho việc trao đổi, hợp tác.

@Trafs thank you for providing a text, it was very useful! We’ll work on this issue and I’ll text you with updates. Have a good day!

Hello @Trafs Could you please check how the word split is now? Check with new import, please.