Ngày 4/6/1954, trước khi Hiệp định Geneve được ký kết 6 tuần, thủ tướng Pháp đã ký tắt dự thảo Hiệp ước Matignon (1954) với Thủ tướng Quốc gia Việt Nam. Bản dự thảo dự kiến công nhận Quốc gia Việt Nam hoàn toàn độc lập khỏi Chính phủ Pháp và là thành viên của khối Liên hiệp Pháp. Theo đó chính phủ Quốc gia Việt Nam sẽ tự chịu trách nhiệm với những hiệp định quốc tế được ký bởi Chính phủ Pháp trước đó nhưng có liên quan tới họ, cũng như không còn bị ràng buộc bởi bất cứ hiệp ước nào do Chính phủ Pháp ký sau này. Tuy nhiên, có quan điểm cho rằng Quốc gia Việt Nam vẫn bị ràng buộc bởi Hiệp định Genève, bởi vì chính phủ này chỉ sở hữu một vài thuộc tính của một chủ quyền đầy đủ, và đặc biệt là* nó phụ thuộc vào Pháp về quốc phòng.Theo Bernard B. Fall Quốc gia Việt Nam không đủ thực quyền để ký kết Hiệp định do lực lượng quân sự của chính quyền này quá nhỏ. Mặt khác, Hiệp ước Matignon mới chỉ được ký tắt dưới dạng ghi nhớ giữa 2 Thủ tướng chứ không phải nguyên thủ cao nhất của 2 bên (Tổng thống Pháp René Coty và Quốc trưởng Bảo Đại), nên nó vẫn chưa có hiệu lực pháp lý. Nhiều người đổ lỗi cho Quốc gia Việt Nam vì họ không có chữ ký trong Hiệp định, nhưng chính Pháp cũng từ chối ký vào Hiệp ước đã được thương thảo xong. Bảo Đại đã đến Pháp từ tháng 4 và dự định rằng vấn đề chữ ký chính thức sẽ được giải quyết trong 2-3 tuần, nhưng dự định này đã tắt ngấm khi Hiệp định Geneve diễn tiến quá nhanh. Sau khi Hiệp định Geneva được ký, Hiệp ước Matignon đã trở nên không bao giờ được hoàn thành. Khi Chính quyền của Thủ tướng Joseph Laniel đưa vấn đề trao trả độc lập cho Quốc gia Việt Nam thì bị Quốc hội Pháp kịch liệt phản đối. Khi tham gia đàm phán, phái đoàn Pháp cũng không hề hỏi ý kiến của Quốc gia Việt Nam, đặc biệt là về vấn đề giới tuyến quân sự tạm thời.
Ông Trần Văn Đỗ, trưởng đoàn đại diện của Quốc gia Việt Nam tuyên bố sẽ không ký vào Hiệp định Genève với lý do hiệp định gây chia cắt Việt Nam và đẩy Quốc gia Việt Nam vào thế nguy hiểm. Đại diện phái đoàn Quốc gia Việt Nam ra một tuyên bố riêng:
"Việc ký hiệp định giữa Pháp và Việt Minh có những điều khoản gây nguy hại nặng nề cho tương lai chính trị của Quốc gia Việt Nam. Hiệp định đã nhường cho Việt Minh những vùng mà quân đội quốc gia còn đóng quân và tước mất của (Quốc gia) Việt Nam quyền tổ chức phòng thủ. Bộ Tư lệnh Pháp đã tự ấn định ngày tổ chức tuyển cử mà không có sự thỏa thuận với phái đoàn quốc gia Việt Nam... chính phủ Quốc gia Việt Nam yêu cầu Hội nghị ghi nhận một cách chính thức rằng Việt Nam long trọng phản đối cách ký kết Hiệp định cùng những điều khoản không tôn trọng nguyện vọng sâu xa của dân Việt. Chính phủ Quốc gia Việt Nam yêu cầu Hội nghị ghi nhận rằng Chính phủ tự dành cho mình quyền hoàn toàn tự do hành động để bảo vệ quyền thiêng liêng của dân tộc Việt Nam trong công cuộc thực hiện Thống nhất, Độc lập, và Tự do cho xứ sở."
Đối với các luận điểm của Quốc gia Việt Nam, phía Việt Nam Dân chủ cho rằng việc chia cắt thành hai vùng tập kết quân sự không phải là chia cắt Việt Nam thành hai quốc gia riêng biệt và việc tập kết quân sự là để đảm bảo cho quá trình Tổng tuyển cử diễn ra an toàn, đạt đúng nguyện vọng của nhân dân Việt Nam. Nếu phía Quốc gia Việt Nam thực tâm cho sự thống nhất và hòa bình toàn diện của đất nước thì nên có những đóng góp tích cực để cuộc Tổng tuyển cử diễn ra thành công.
Tuy vậy, lời phản kháng và đề nghị của đại diện Quốc gia Việt Nam đã không được Hội nghị bàn tới. Ngoại trưởng Trần văn Đỗ từ Genève tuyên bố với các báo chí như sau: "Từ khi đến Genève, phái đoàn không bao giờ được Pháp hỏi về ý kiến về điều kiện đình chiến, đường phân ranh và thời hạn Tổng tuyển cử. Tất cả nhưng vấn đề đó đều được thảo luận ngoài Hội nghị, thành ra phái đoàn Việt Nam không làm thế nào bầy tỏ được quan niệm của mình"
Tuy lên tiếng phản đối, nhưng sau khi hiệp định được ký kết, Chính phủ và quân đội Quốc gia Việt Nam vẫn cùng quân Pháp tập kết về phía nam vĩ tuyến 17, bởi họ vẫn là thành viên của Liên hiệp Pháp. Ngày 28/4/1954, Ủy ban Bảo vệ Bắc Việt Nam của Quốc gia Việt Nam tìm cách kêu gọi dân chúng di cư vào Nam. Một kế hoạch di cư được đặt ra và một Uỷ ban di cư được thành lập. Ngày 30/7/1954, Thủ tướng Ngô Đình Diệm phát biểu cổ vũ dân chúng miền Bắc di cư vào miền Nam.
Sau đó, hậu thân của Quốc gia Việt Nam là Việt Nam Cộng hòa, với sự hậu thuẫn của Hoa Kỳ đã từ chối tổ chức tuyển cử thống nhất Việt Nam, trái với Tuyên bố chung của Hiệp định.
